의료영상 인공지능(AI)은 뇌 자기공명영상(MRI)을 분석해 질환 가능성을 제시할 뿐 아니라, 판단에 영향을 준 뇌 부위를 색으로 표시할 수도 있다. 결론과 함께 근거까지 보여주니 한층 믿을 만해 보인다.
하지만 AI가 표시한 '근거'가 안정적인지는 따로 확인해야 한다. 같은 구조의 AI를 다시 학습했을 때 전혀 다른 뇌 부위를 짚는다면, 처음 제시한 설명이 특정 학습 과정에서 우연히 만들어졌을 가능성이 있기 때문이다.
고려대 인공지능학과 크리스티안 왈라븐 교수 연구팀은 고려대 안암병원 영상의학과 유성혜·김보규·박아림 교수팀과 함께 의료 AI의 설명을 평가하는 여러 지표를 비교했다고 24일 밝혔다. 그 결과 반복적으로 학습해도 설명이 얼마나 일관되게 유지되는지를 따지는 '강건성(Robustness)'이 임상 근거와 가장 안정적으로 부합했다.
그럴듯한 설명과 믿을 만한 설명은 달라
딥러닝 AI는 수많은 계산 단계를 거쳐 결과를 내놓는다. 사람이 이 과정을 하나하나 따라가며 이해하기는 사실상 어렵다. AI가 이상 소견을 제시해도 왜 그런 판단을 했는지 의료진이 명확히 파악하기 어려운 이유다. 겉에서 내부를 들여다볼 수 없는 상자와 같다고 해서 이를 '블랙박스' 문제라고 부른다.
이를 보완하기 위해 개발된 기술이 설명가능 인공지능(XAI)이다. AI가 중요하게 본 뇌 영역을 지도처럼 표시해 의료진이 판단 근거를 눈으로 확인하도록 돕는다.
문제는 이렇게 만들어진 설명 가운데 무엇을 믿어야 할지 가릴 공통 기준이 뚜렷하지 않다는 점이다. 설명이 AI의 실제 판단 과정을 얼마나 충실히 반영하는지, 얼마나 단순하고 이해하기 쉬운지를 따지는 기준들이 나왔지만 임상적으로 의미 있는 부위를 제대로 짚는지는 충분히 검증되지 않았다.
연구팀이 주목한 강건성은 같은 구조의 AI를 학습 시작점만 달리해 여러 번 훈련했을 때, AI가 중요하다고 표시하는 부위가 얼마나 비슷하게 유지되는지를 보는 지표다. 점수가 높을수록 한 번의 학습 과정에서 우연히 나온 결과가 아니라, 다시 학습해도 반복해서 나타나는 안정적인 설명이라는 의미다.
연구팀은 영국 바이오뱅크와 알츠하이머병 신경영상 이니셔티브(ADNI)의 뇌 MRI 약 4만 건을 활용했다. 서로 다른 딥러닝 모델 9종과 설명 기법 8종을 조합해 1만 회 넘는 시뮬레이션을 진행했다.
이어 각 평가 지표가 임상적으로 의미 있는지를 세 기준과 대조했다. MRI 영상을 작은 격자인 '복셀' 단위로 나눠 뇌 조직의 형태 차이를 분석한 결과, 뇌 영역별 부피와 질환의 연관성, 영상의학과 전문의의 판단을 각각 비교했다.
정확도만 높으면 충분할까
분석 결과, AI의 판단 과정을 얼마나 제대로 반영했는지를 보는 '충실성'이나 설명이 얼마나 단순한지를 평가하는 '복잡성' 등 기존 지표는 임상 근거와 상관관계가 낮았다. 같은 설명 기법이라도 AI 모델 구조가 달라지면 점수가 크게 달라지기도 했다.
반면 강건성은 뇌 형태와 영역별 부피를 분석한 결과, 영상의학과 전문의의 판단과 비교적 일관되게 부합했다. AI 모델 구조가 달라져도 평가 결과가 크게 흔들리지 않았으며 계산 효율도 양호했다.
왈라븐 교수는 "이번 연구는 의료 AI의 설명이 얼마나 믿을 만한지를 평가하는 기준을 임상 근거와 체계적으로 연결했다는 데 의의가 있다"고 말했다.
유성혜 교수는 "의료 AI가 실제 진료 현장에서 활용되기 위해서는 높은 진단 성능뿐 아니라, AI가 제시한 판단 근거가 임상적으로 타당하고 일관된지도 확인해야 한다"고 밝혔다.
다만 이번 연구는 구조적 뇌 MRI와 두 가지 분석 과제를 중심으로 이뤄졌다. 강건성이 컴퓨터단층촬영(CT), 엑스레이, 병리 영상 등 다른 의료영상에서도 같은 수준의 타당성을 보이는지는 추가 검증이 필요하다.
유럽연합 인공지능법은 의료기기 등에 사용되는 일부 AI를 고위험 시스템으로 분류하고 투명성과 정확성, 강건성 등을 요구한다. 이번 연구는 의료 AI를 평가할 때 진단 정확도뿐 아니라, AI가 제시하는 설명이 반복 학습에도 일관되게 유지되는지 살펴야 한다는 점을 보여준다.
연구 결과는 국제학술지 《Medical Image Analysis》 6월 16일 온라인판에 실렸다.
