AI 기술, 의료 분야 적용 속 발생하는 한계점
의료 데이터와 AI 기술의 접목은 새로운 진단 및 치료 방법론을 제시하며 의료 산업에 많은 변화를 가져오고 있다. 특히, 다중 모달 데이터를 처리하고 생성할 수 있는 Foundation Model은 의료에서의 AI 역할을 혁신적으로 바꾸어 놓았다. 그러나 이러한 기술 발전에도 불구하고, 잘못된 정보 생성 즉 'AI 환각 현상'이 여전히 중요한 문제로 대두됐다.
'AI 환각' 의료 분야의 주요 문제로 부각
최근 medRxiv에 발표된 연구에 따르면, AI 환각은 모델이 부정확하거나 허구의 의료 정보를 생성하는 현상을 뜻한다. 이는 오진 가능성을 높이고 환자의 안전에 직접적인 영향을 미칠 수 있다. 연구자들은 이 현상을 더 깊이 이해하고 해결하기 위해, 환각 현상의 특징과 원인, 그리고 이를 줄이는 방법에 대해 집중적으로 조사했다.
참조 기반 추론, AI 환각 줄이는데 효과적
이번 연구는 AI 모델의 의료 환각 문제를 해결하기 위해 'Chain-of-Thought'와 '검색 기반 생성'(Search Augmented Generation) 같은 추론 기법을 활용했다. 이를 통해 환각 비율을 낮출 수 있다는 것이 입증되었지만, 개선 뒤에도 여전히 완전히 제거되지 않는 수준의 환각이 일정 부분 존재했다.
규제 및 환자 안전의 중요성 강조
연구진은 AI가 의료현장에 더욱 깊숙이 통합되는 현실에서, 환자 안전과 임상적 신뢰성을 유지하기 위한 규제 정책의 필요성을 강조했다. 이를 통해 AI 환각 문제를 보다 효과적으로 관리하고, 환자에게 미치는 잠재적 위험을 최소화할 수 있다고 주장했다. 또한, 임상의사들의 경험을 바탕으로 한 설문 조사 결과는 기술적 발전뿐 아니라 윤리적, 규제적 가이드라인의 명확성 또한 중요하다는 점을 시사했다.
다분야 협력이 AI 의료 활용의 미래를 좌우한다
마지막으로, 연구진은 이 연구 결과가 의료 AI 개발과 활용에 있어 중요한 지침이 될 것이라 전망했다. 이를 위해 연구자, 개발자, 임상의, 정책 입안자 간의 지속적인 협력과 철저한 검증, 윤리적 틀 마련이 필수적이라고 강조했다. AI 기술이 의료에 가져올 수 있는 잠재적 이익을 극대화하기 위해 의료 현장에서 발생할 수 있는 위험을 효과적으로 관리하고 대응하는 것이 앞으로의 성패를 가를 것이다.
출처 : 원문 보러가기