[편집자주] 사람들은 하루 평균 AI에게 몇 번의 도움을 받고, 몇 개의 거짓 정보에 속고 있을까? AI는 누구에게나 지식을 주는 도구가 됐지만, 동시에 누구나 거짓을 진실처럼 꾸며낼 수 있는 시대도 열었다. 건강 분야에서도 존재하지 않는 의학 정보를 사실처럼 제시하거나 전문가를 사칭한 AI 콘텐츠가 SNS와 유튜브를 통해 빠르게 퍼지고 있다. 의료와 건강에 대한 잘못된 정보는 치료 지연과 민간요법 오남용으로 이어질 수 있다. 코메디닷컴은 ‘AI 건강 안전벨트’ 프로젝트를 통해 AI를 가장 건강하게 사용하는 방법을 제시하고자 한다.
경기도에 거주하는 50대 남성 김창윤 씨는 지난해 여름부터 이유를 알 수 없는 소화 불량과 혈변을 경험했다. 4달 동안 체중이 8kg 넘게 빠졌고, 안색이 좋지 않다고 걱정하는 주변 사람도 많아졌다.
덜컥 겁이 난 창윤 씨는 근처 대학병원을 찾았다. 위암을 의심할 수 있을 정도의 증상이니 내시경 후 조직 검사로 정확한 진단을 내리는 게 좋겠다는 게 담당 의사의 소견이었다.
그런데 창윤 씨가 평소 사용하던 AI 챗봇은 훨씬 낙관적인 답을 내놓았다.
“소화 불량이나 체중 감소가 언제나 암으로 연결되는 것은 아닙니다. 위암은 겉으로 드러나는 증상으로 진단하기 쉽지 않습니다. 걱정할 정도는 아니며, 증상이 반복되면 정확한 진료를 받아도 됩니다.”
평소 AI의 답변을 신뢰하던 창윤 씨는 이번에도 AI를 믿기로 했다.
두 달 뒤 건강검진에서 창윤 씨는 췌장암 진단을 받았다. 다행히 초기 암이었지만, 후속 검사에서 위암이 함께 발견됐다. 창윤 씨는 종양을 제거하고 위 아래쪽의 3분의 2 이상을 절제하는 대수술을 받았다.
매력적인 만큼 위험하다
김달용 동국대 일산병원 혈액종양내과 교수는 최근 코메디닷컴과의 인터뷰에서 “AI는 매력적일 정도로 편리하고, 그만큼 위험하다”고 설명했다.
대한종양내과학회 홍보위원장을 맡고 있는 그는 “요즘엔 항암 치료를 전문으로 하는 동료 의사들로부터 믿기 어려운 에피소드를 접하곤 한다”며 “최근 한 동료가 만난 어떤 환자는 진료실에 들어오자마자 대뜸 ‘제 챗봇과 채팅 좀 해주세요’라고 요청했다더라”고 털어놨다.
물론 의사들이 이런 상황을 처음 맞닥뜨리는 건 아니다. 민간요법, 주변인들의 추천, 검색 포털의 발전, 질문-답변 게시판의 유행 등 의사의 소견과 진단에 의문을 제기하는 도구는 이전에도 많았다.
“‘제 지인이 그러는데⋯’, ‘검색해보니까 이렇던데요’, ‘여기 보시면 다르게 나와있잖아요’ 뭐 이런 식의 흔한 말들이죠. 지금은 그게 ‘AI’가 된 것뿐이고요.”
다만 김 교수에 따르면 AI가 유독 더 위험한 이유는 ‘지나칠 정도로 친절하다’는 데 있다. AI는 같은 증상을 보다 낙관적으로 바라보는 경향이 있다는 것이다.
환자 입장에선 부정적이고 실천하기 까다로운 ‘잔소리’를 늘어놓는 의사보다 친절하고 긍정적으로 내 말을 들어주는 AI를 더 잘 믿게 된다는 분석이다.
“심지어 AI는 꾸준한 학습을 거쳐서 나름의 근거를 제공해요. 논문이나 기사 내용도 곧잘 인용하곤 하죠. 이 과정에서 AI가 교묘하게 수치나 결론을 뒤틀어서 잘못된 안내를 할 수 있다는 점은 간과되기 쉽습니다.”
실제로 지난 5~9일 스페인 바르셀로나에서 열린 유럽호흡기학회(ERS) 연례학술대회에서는 AI가 사용자의 태도에 따라 의료 조언을 바꿀 수 있다는 연구 결과가 발표됐다.
연구진이 수면무호흡증을 가정해 700차례 모의대화를 진행한 결과, 환자가 전문의 진료에 협조적일 때는 350건 모두 전문의 평가를 권했다. 하지만 같은 증상을 제시하면서 전문의 진료를 거부하는 태도를 보이자 권고를 유지한 비율은 64%로 떨어졌다. 의학적 정보는 같았는데 환자의 태도가 달라지자 3분의 1이 넘는 대화에서 전문의 평가 권고가 사라진 셈이다.
의사는 환자의 증상뿐 아니라 진찰과 검사 결과, 병력과 위험요인 등을 종합해 판단한다. 반면 AI 챗봇은 환자를 직접 진찰할 수 없고, 사용자가 입력한 정보와 대화의 맥락을 토대로 답을 만든다. 이 때문에 사용자가 자신의 증상을 대수롭지 않게 여기거나 진료를 꺼리는 태도를 보일 때 AI 역시 그 방향에 맞춘 답을 내놓을 가능성이 있다.
특히 AI가 제시하는 낙관적인 답을 그대로 믿으면 필요한 진료나 치료가 늦어질 수 있다.
“AI가 추천해준 치료약은 왜 못 써⋯돌팔이 아냐?” 무너지는 의료 신뢰감
치료 시기를 놓치는 것만큼 중요한 문제가 있다. 의료 전문가나 의료기관에 대한 신뢰 기반도 무너진다는 점이다.
김달용 교수는 “의사는 증상, 가족력 등 위험 요인, 치료법의 보험 적용 여부, 향후 삶에 미칠 영향 등을 종합적으로 판단해 치료 전략을 결정한다”고 설명했다.
“AI가 때로는 임상 시험이 한창 진행 중인 최신 의약품들의 개발 동향이나 효과를 정리해주기도 합니다. 문제는 이들 의약품의 상당수는 아직 정식 승인을 받기 전이거나, 한국 시장에 출시하지 않았거나, 효과 대비 가격이 너무 비싸 현실적으로 선택하기 힘든 경우가 많다는 거예요.”
김 교수는 이런 구조에서는 최신 의료 트렌드를 제시하는 AI의 설명에 환자들이 유혹당하기 쉽다고 우려했다.
AI의 허위 정보는 병원 선택에도 영향을 미친다. 지난해 캐나다 사이먼 프레이저대 연구팀이 온라인에 게시된 병원 후기 3만5000여 건을 분석한 결과, AI가 작성한 8300여 개의 가짜 후기가 훨씬 더 많은 신뢰와 추천을 받은 것으로 드러나기도 했다.
연구팀은 AI의 ‘가짜 후기’가 실제 환자들이 작성한 후기보다 훨씬 길고, 증상·진단 결과·치료 방식 등을 더 자세히 묘사하고 있다고 지적했다. 개인정보 노출 우려로 자세한 정보를 공개하지 않는 환자들이 더 많기 때문이다.
김 교수는 “모든 분야에서 AI를 적극 사용하는 지금, 환자들에게 ‘AI를 아예 사용하지 마시라’고 권하는 것은 현실적으로 불가능하다”면서도 “환자들의 실제 피해를 줄일 수 있는 최소한의 안전장치가 필요한 시점이라고 본다”고 덧붙였다.
2회에서는 생성형 AI가 만들어낸 ‘가짜 의사’들이 SNS에서 어떻게 소비자를 속이는지, 그에 따른 피해는 어느 정도인지에 대해 살펴본다.
# 이 콘텐츠는 한국언론진흥재단의 협찬을 받아 제작됐습니다.
