인공지능 기반 유방촬영 해석, 인종·민족 다양성 부족 우려
유럽암저널(European Journal of Cancer)에 따르면, 인공지능(AI)을 활용한 유방촬영 해석의 공정성과 형평성이 데이터셋의 인종 및 민족 다양성 부족으로 위협받을 수 있다는 연구 결과가 발표됐다. AI 기술이 유방촬영 결과 해석에 있어 유망한 것으로 평가되고 있지만, 데이터의 다양성과 연구자 구성에 대한 한계가 모델의 일반화 가능성과 공정성에 악영향을 미칠 수 있다는 지적이다.
데이터셋의 다양성 및 연구자 구성의 제한
연구진은 2017년, 2018년, 그리고 2022년과 2023년에 걸쳐 유방암 조기 검진과 진단 목적의 AI 알고리즘 개발 및 검증에 사용된 유방촬영 연구들을 과학계량학적으로 분석했다. 5,774건의 연구 중 264건이 분석 기준에 충족했으며, 연구 수는 2017년 28건에서 2022-2023년 115건으로 약 311% 증가했다. 그러나 이 중 인종과 민족 관련 데이터를 명시한 경우는 극히 적어, 전체의 0~25% 수준에 불과했다. 대다수 환자가 백인(Caucasian)으로 보고되었으며, 데이터는 주로 고소득 국가에서 수집됐고 저소득 국가에서는 연구가 거의 진행되지 않았다. 연구자의 소속 기관도 대부분 고소득 국가에 편중되어 있었으며, 연구의 주요 저자 구성을 살펴보면 성별 불균형 또한 확인됐다.
인종적 편중이 야기하는 위험
이같이 인종적, 민족적, 그리고 지역적 다양성이 결여된 데이터셋과 연구자 비율은 AI 기반 유방촬영 해석 모델의 일반화 가능성을 제한하며, 특정 인종과 민족 집단에 불리한 결과를 초래할 가능성을 높인다. 특히 백인 환자 중심의 알고리즘은 다른 인종에서 부정확한 결과와 오진을 초래할 수 있어 환자 안전성에 위협이 될 수 있다. 이는 의료 서비스에서의 기존 불평등을 심화할 위험이 있다.
해결 방안 및 향후 과제
문제를 해결하기 위해서는 다각도로 데이터셋 수집의 다양성을 확대하고, 저소득 및 중간 소득 국가를 포함한 국제적 협력을 강화해야 한다. 또한 환자 모집 과정에서 다양한 인구 집단을 적극적으로 포함하는 것이 중요하다. 이를 통해 AI 기술이 보다 공정하고 균형 잡힌 의료 해석 도구로 자리 잡을 수 있을 것으로 기대된다.
출처 : 원문 보러가기