생성형 인공지능(AI) 챗봇의 잘못된 조언을 믿었다가 응급실로 실려 가는 사례가 잇따르고 있다는 전문가의 지적이 나왔다. 항문 병변 자가 치료부터 청소년 자살 사건에 이르기까지, 피해 양상도 다양하다. 전문가들은 “AI는 의료 전문가를 대체할 수 없다”며 경고하고 있다.
35세 남성, 실로 항문 병변 묶었다가 응급실행
가장 충격적인 사례 중 하나는 35세 모로코 남성에서 보고됐다. 항문에 콜리플라워 모양의 병변이 생기자 그는 AI 챗봇에 도움을 요청했고, 챗봇은 치핵을 의심하며 고무 결찰술을 제안했다.
의료 현장에서 이 시술은 전문의가 치핵 기저부에 작은 고무 밴드를 걸어 혈류를 차단하는 방식으로 실시된다. 하지만 남성은 실을 이용해 스스로 이 시술을 시도했다가 극심한 통증에 시달린 끝에 응급실로 이송됐다.
검사 결과 병변은 치핵이 아닌 3cm 크기의 사마귀로 확인됐고, 의료진은 전류 소작술로 병변을 제거했다. 올해 1월, 해당 사례를 ‘국제 최신 연구 저널(International Journal of Advanced Research)’에 발표한 연구진은 환자를 “AI 오용의 피해자”라고 지적하며 “AI는 의사를 대체할 수 없다”고 경고했다.
‘브롬화나트륨’을 소금 대체로 사용…영양 상담 오남용
또 다른 피해자는 60세 남성이다. 그는 식단에서 소금(염화나트륨)을 줄이는 방법을 챗봇에 물었고, AI는 대안으로 브롬화나트륨 섭취를 제안했다. 남성은 실제로 이를 온라인에서 구매해 3개월간 요리에 활용했다.
결과는 심각했다. 그는 브롬 중독으로 환각, 혼란, 편집증, 피부 발진 등의 증세를 보여 3주간 입원 치료를 받아야 했다. 해당 사례는 지난 8월 ‘내과 임상 사례 연보(Annals of Internal Medicine Clinical Cases)’에 실렸다.
복시 증상 무시하다 미니 뇌졸중
63세의 스위스 남성은 심장 시술 이후 복시(사물이 2개로 보이는 증상) 증상을 겪었다. 의료진은 시술 후 부작용일 수 있으나, 재발할 경우 진료를 받으라고 안내했다. 하지만 증상이 다시 나타났을 때 그는 병원을 찾는 대신 AI 챗봇에 문의했다. 챗봇은 “카테터 절제술 후 나타나는 시력 문제는 일시적이며 곧 호전된다”고 답했고, 그는 이를 믿고 병원을 찾지 않았다.
결국 24시간 뒤 세 번째 증상 재발 후 응급실로 이송된 그는 검사 후 일과성뇌허혈발작 진단을 받았다. 의료진은 ‘오스트리아 빈 임상의학 주간지(Wien Klin Wochenschr)’에 발표한 보고서에서 “AI의 불완전한 진단 및 해석으로 치료가 지연됐다”고 밝혔다.
미성년자 자살 사건까지…AI 책임 소송 잇따라
AI의 조언이 정신 건강 문제로 번진 사례도 있다. 미국에서는 미성년자 자살 사건과 관련해 AI 챗봇 기업들을 상대로 소송이 제기됐다.
캘리포니아의 한 청소년의 부모는 AI가 자해 행동을 부추기고 심리 상태를 방치했다며 챗GPT 개발사 오픈AI(OpenAI)를 상대로 소송을 제기했다. 소장에 따르면, AI는 자살 의도를 명확히 언급한 대화 상황에서도 상담을 종료하거나 응급 대응을 하지 않았다.
해당 사건 이후 오픈AI는 챗봇이 정신적·정서적 위기 신호를 더 잘 인식하도록 하는 안전장치를 도입했다.
전문가 “AI 의료 조언, 진료 대체할 수 없어”
전문가들은 이러한 사례가 AI 오남용의 위험성을 보여주는 경고 신호라고 지적했다. 미국 뉴욕 소재 특수외과 병원(Hospital for Special Surgery)의 척추수술 연구 책임자인 대런 레블 박사는 미국 매체 뉴욕포스트를 통해 “많은 환자들이 AI에서 얻는 조언으로 의사를 시험해보려 한다"며 "문제는 그러한 조언들이 반드시 실제 증거에 기반한 권고가 아닐 수 있다는 점”이라고 말했다. 그에 따르면, AI가 내놓는 의료 조언의 약 4분의 1은 실제 근거가 없는 허구였다.
잘못된 정보 제공 외에도 AI 챗봇은 사용자의 요청을 잘못 해석할 가능성이 있고, 미묘한 뉘앙스를 인지하지 못할 수 있으며, 자해의 중요한 경고 징후를 놓칠 수 있다. 전문가들은 AI가 질환명이나 의학적 용어를 이해하고 진료 준비를 돕는 보조 수단으로 활용될 수 있지만, 증상의 중대성이나 응급 여부를 판단하는 용도로 사용하는 것은 위험하다고 경고했다.
또한 많은 주요 AI 챗봇들이 건강 관련 질문에 답변할 때 “이 정보는 전문적인 의료 조언이 아니다”라는 안내 문구를 거의 제공하지 않고 있다는 것도 문제점으로 지적됐다. 이로 인해 사용자가 AI의 답변을 진단이나 치료 지침으로 오해할 위험이 크며, 실제로 병원 방문을 미루거나 잘못된 자가 치료로 이어지는 사례가 발생하고 있다는 지적이 나온다.
