최은영 강남세브란스병원 안과 교수 연구팀이 최근 대만에서 열린 아시아 망막학회 국제학술대회에서 ‘최우수 포스터상(Best Poster Presentation)’을 수상했다.
최 교수는 ‘임상 추론에서의 인간과 인공지능의 협력(HAC)의 성공과 실패’를 주제로 수상의 영예를 안았다. 안과 분야의 임상 문제 풀이를 바탕으로 의사와 인공지능이 협업할 때 성능이 저하되는 원인을 실험적으로 규명한 점이 높은 평가를 받았다.
연구팀은 미국의사학회(JAMA)에서 제공하는 임상 문제(Clinical Challenge) 30문항을 인간 의사 단독, 인공지능 단독, 의사와 인공지능 협업(HAC) 등 세 가지 조건에서 진단 정확도를 비교 분석했다. 인공지능 모델은 클로드(Claude-3.5)를 사용했다.
연구 결과, 인간과 인공지능이 협업했을 때가 인간 단독 진단보다는 개선되었지만 인공지능 단독 성능을 능가하지는 못했다. 인간의 잘못된 판단을 인공지능이 그대로 수용하거나, 반대로 인공지능의 오류를 인간이 비판 없이 받아들이는 것이 주요 실패 요인으로 확인됐다.
연구팀은 이러한 한계가 단순히 인공지능의 지식 부족 때문이 아니라, 인간과 인공지능이 어떻게 상호작용하고 추론 과정을 조율하느냐에 달려 있음을 시사한다고 설명했다.
최 교수는 “인공지능은 우리 일상과 의료 분야에 점점 더 많이 활용되고 있지만 여전히 한계가 존재한다. 인공지능을 맹목적으로 신뢰하기보다 비판적으로 검증하고 상호 보완적으로 사고하는 협업 구조가 중요하다”고 강조했다.
