자신의 질병을 이해하기 위해 인공지능(AI) 챗봇을 사용하는 환자들이 늘고 있는 가운데, AI 챗봇이 데이터를 학습하고 이용하는 과정에서 윤리적 책임을 저버렸다는 주장이 나오고 있다.
이달 초 국제적 학술지《미국의사협회저널(JAMA)》에는 ‘의사에게 진료를 받기 전에 자신의 질병을 챗GPT와 상담하는 사례가 늘고 있다’는 내용의 기고문이 실렸다.
챗봇 지도 받은 뒤 의사 만나 지식 자랑
작성자인 가정의학과 전문의 쿠마라 라자 순다르 박사는 “보통 환자가 의사를 만났을 때는 자신의 증상을 명확하게 설명을 하지 못하거나, 정확한 의학 용어를 사용하지 않는 등 약간의 미숙함이 드러나기 마련이다. 그러나 챗GPT의 보급으로 보다 정확한 용어로 증상을 표현하는 환자들이 늘고 있다. 의료계 종사자 출신인지 의심했을 정도”라고 밝혔다.
순다르 박사는 “이런 환자들의 대부분은 의료진을 만나기 전에 챗GPT 등의 챗봇에게 자신의 증상을 설명하고 상담을 받았다고 고백한다”며 “과거 인터넷 검색이 했던 역할을 챗봇이 대체하고 있는 셈”이라고 했다.
다만 그는 “챗봇에 대한 과도한 신뢰는 의사와 환자 간 신뢰를 해칠 수 있다”며 “환자가 챗봇을 통해 중간 결론을 내린 후 의사를 만나게 되면 적절한 치료 전략을 세우는 것이 힘들어지기 때문”이라고 지적했다.
편리한 챗봇이지만…잘못된 대답 내놓는다면?
AI 챗봇이 일반 대중에게 미치는 영향이 커지면서, AI가 과연 올바르게 의료 관련 데이터를 학습하고 있는지 문제 제기가 이어지고 있다.
특히 로이터가 14일(현지 시각) IT 기업 ’메타(구 페이스북)’의 내부 정책 문서를 공개하며 논란이 증폭됐다. 해당 문서를 통해 메타의 자체 AI나 소셜미디어 알고리즘에 사용되는 챗봇이 허위 의료정보를 생성하는 기능을 일부 허용하고 있는 것으로 나타났기 때문이다.
지난달에는 의료용 AI 플랫폼 기업인 ‘애니마 헬스’가 개발한 문서 자동화 도구가 영국 국민건강서비스(NHS) 데이터베이스에 잘못된 기록을 생성한 것이 알려졌다. 한 환자의 진료 기록에 실제로 진단받은 적이 없는 당뇨병 진단이 추가되면서, 해당 환자에게 당뇨병 검사 안내장이 발송된 것이다.
또한 호주 플린더스대 의대 연구팀이 지난 6월 오픈AI의 GPT-4o와 구글의 제미나이 1.5프로 등 주요 거대 언어 모델(LLM) 5종에게 각각 100문항의 건강 관련 질문을 묻자, 평균 정답률이 12%에 그치기도 했다.
증상 확인을 위해 챗봇이 더 자주, 더 널리 사용되는 최근의 환경에서 이같은 오류는 치명적인 의료 편향으로 이어질 가능성이 있다.
환자와 의사, 신뢰 회복 위해선…
순다르 박사는 결과적으로 의사들의 더 친절한 설명이 이같은 문제의 해결책이라고 진단했다.
그는 “환자들이 과거에는 인터넷을, 현재는 챗봇을 신뢰하는 가장 큰 이유는 의사의 설명이 불친절하다고 느끼기 때문”이라고 말했다. 환자들이 특정 증상을 호소할 때 의사가 의학적으로 이에 공감하기 어려운 상황에서는 챗봇이 더 정서적으로 안전한 선택지로 느껴질 수 있다는 주장이다.
이에 그는 “의사들이 이러한 현상에 대해 반감보다는 이해심을 가져야 한다”며 “의사들이 함께 치료 계획을 세우고자 한다는 것을 환자가 이해한다면 신뢰 관계가 회복될 것”이라고 했다.
