사람들은 하루 평균 AI에게 몇 번의 도움을 받고, 몇 개의 거짓 정보에 속고 있을까? AI는 누구에게나 지식을 주는 도구가 됐지만, 동시에 누구나 거짓을 진실처럼 꾸며낼 수 있는 시대도 열었다. 건강 분야에서도 존재하지 않는 의학 정보를 사실처럼 제시하거나 전문가를 사칭한 AI 콘텐츠가 퍼져나간다. 그런데 의료와 건강에 대한 잘못된 정보는 치료 지연과 민간요법 오남용으로 이어질 수 있다. 코메디닷컴은 'AI 건강 안전벨트' 프로젝트를 통해 AI를 가장 건강하게 사용하는 방법을 제시하고자 한다. <편집자주>
평소 당뇨를 앓고 있던 50대 A씨는 최근 혈당 수치가 잘 조절되지 않자 생성형 AI에 관리 방법을 물었다. AI는 특정 식품이 혈당 조절에 도움이 된다고 설명하면서 식단 관리 방법과 섭취 요령을 안내했다.
A씨는 답변에 제시된 정보가 전문적인 의학 지식에 기반한 것이라고 생각했다. 구체적인 수치까지 함께 제시하자 A씨는 답변을 신뢰하고 해당 식품을 꾸준히 먹기 시작했다.
혈당이 개선될 것이라는 기대에 당뇨약 복용량까지 임의로 줄였지만 혈당은 오히려 높아졌고, 결국 병원을 찾은 A씨는 의료진으로부터 식품 섭취만으로 당뇨병을 관리하기는 어려우며 처방약을 임의로 조절해서는 안 된다는 설명을 들었다.
AI가 만드는 그럴싸한 환각, ‘할루시네이션’
A씨가 겪은 것처럼 생성형 AI와 관련해 자주 언급되는 문제 중 하나가 ‘할루시네이션(환각 현상)’이다. AI가 사실이 아닌 내용을 사실처럼 그럴듯하게 만들어 내는 것을 말한다.
AI가 존재하지 않는 논문을 인용하고, 없는 법령 조항을 제시하며, 실재하지 않는 전문가의 발언을 만들어 내는 것이다. 자신감있고 그럴듯한 내용에 주의 깊게 살피지 않으면 쉽게 속아 넘어갈 수 있다.
이 때문에 의료·법률·금융 등의 영역에서는 AI 도입을 보류하거나 제한하는 경우도 있다. 특히 질문이 모호할수록 발생 가능성이 높다고 알려져 있어, 사용자의 프롬프트 구성 역량도 중요해지고 있다.
AI 사용자 절반 이상은 “결과물 믿을 수 없어”
정보통신정책연구원(KISDI)이 발간한 ‘생성형 인공지능 서비스 채택 선행요인에 관한 탐색적 연구’ 보고서에 따르면, 이용자들은 AI의 뛰어난 업무 효율성에 만족하면서도 허위 정보에 대해 우려를 표했다. 이번 조사는 2025년 9월 전국 15~69세 남녀 2000명을 대상으로 진행됐다.
응답자의 80% 이상이 작업 시간 단축과 비용 절감 등 생성형 AI의 유용성 측면에서는 긍정적인 반응을 보였으나, AI가 내놓은 결과물을 믿을 수 있다고 답한 비율은 절반이 되지 않는 44%였다. 특히 응답자의 68%는 AI가 허위 정보를 사실처럼 제시하는 환각 현상에 불안감을 느낀다고 답했다.
조사 결과에 대해 KISDI 주성희 연구위원은 “이용자들이 유용성과 불안을 동시에 느끼는 만큼, 신뢰할 수 있는 AI 환경 조성이 시급하다”며 “AI 확산 정책의 패러다임을 ‘기술 보급’에서 ‘경험 관리’로 바꿔야 한다”고 말했다.
KISDI가 제시한 구체적인 정책 방향으로는 △할루시네이션 관리와 투명성 강화 △차별화된 디지털 리터러시 교육 △이용자 중심 거버넌스 구축 △조직 내 명확한 활용 기준 마련 등이 있다.
AI 주요 활용 분야인 정보 검색…‘디지털 리터러시’ 중요성 커져
한국언론진흥재단이 2025년 발표한 생성형 AI 이용 조사에 따르면 응답자의 57.2%가 생성형 AI를 사용한 경험이 있었고, 주요 활용 분야는 정보 검색과 글쓰기였다. 생성형 AI가 정보 검색과 콘텐츠 작성 수단으로 빠르게 자리 잡고 있는 만큼, 생성된 정보의 출처와 정확성을 확인하는 ‘디지털 리터러시’의 중요성이 커지고 있는 것이다.
그중에서도 생성형 AI로 찾은 건강정보는 답변이 얼마나 전문적으로 보이는지보다 정보의 출처가 실제로 존재하는지, 의학적 근거가 있는지, 다른 신뢰할 만한 자료에서도 같은 내용을 확인할 수 있는지를 살펴보는 것이 중요하다.
이제현 한국과학기술원 AIX 전략실장은 그의 저서 《AI는 생각하지 않는다, AI 리터러시》를 통해 "AI는 생각하지 않는다. 다만 행동할 뿐"이라며 "판단과 사고까지 통째로 넘겨버리는 ‘생각의 외주화’를 경계하라"고 조언했다. 그러면서 “방향을 정하고, 질문을 던지고, 돌아온 답을 검증하는 ‘본체의 능력’이 살아 있어야 AI는 비로소 힘을 발휘한다”고 강조했다.
건강 분야에서는 존재하지 않는 연구 논문이나 잘못된 약물 복용법, 과장된 치료 효과 등을 제시할 수 있으므로 각별한 주의가 필요하다. 만약 AI가 국제학술지의 논문이나 연구 결과를 근거로 제시하더라도 이를 그대로 믿어서는 안 되며, 논문 제목과 저자, 학술지명, 발표 연도 등을 확인하고, 실제 논문이 검색되는지 확인해야 한다.
또 논문이 존재하더라도 AI가 연구 결과를 잘못 해석하거나 일부 내용만 발췌했을 가능성도 있다. 예를 들어 동물실험이나 세포실험 결과를 사람에게도 동일하게 적용할 수 있는 것처럼 설명하거나, 특정 성분의 효과를 입증한 소규모 연구를 바탕으로 이미 질병 치료 효과가 입증된 것처럼 소개하는 경우도 있다.
AI가 제시한 출처 꼼꼼하게 확인하고 단정적인 표현 의심해야
따라서 AI에게 건강·의료 관련 답변을 받았다면 질병관리청, 국가건강정보포털, 식품의약품안전처, 국민건강보험공단 등의 자료와 대조하며 사실 여부를 알아봐야 한다. AI가 제시한 출처 링크를 직접 열어보는 것도 필수다. 실제로 링크가 열리는지, 논문의 제목과 저자가 일치하는지, 해당 연구가 AI의 주장을 뒷받침하는지 확인해야 한다.
효과를 지나치게 단정하는 표현이 포함돼 있는지도 살펴봐야 한다. 특정 식품을 먹으면 암이 사라진다거나, 영양제만으로 혈당을 정상화할 수 있다거나, 한 가지 방법으로 몸속 염증을 완전히 제거할 수 있다는 등의 주장은 신중하게 검토해야 한다.
AI가 특정 식품이나 영양제의 장점만 강조하면서 부작용과 금기 사항, 다른 약물과의 상호작용, 효과가 충분히 입증되지 않은 부분을 설명하지 않는다면 불완전한 정보일 가능성이 크다.
질문하는 방식도 건강정보 검증에 도움이 될 수 있다. 단순히 특정 영양제가 건강에 좋은지 묻기보다 사람을 대상으로 한 임상시험에서 효과가 확인됐는지, 부작용이 보고된 연구는 없는지 등 구체적으로 질문하는 것이 좋다.
실제로 증상이나 약물 복용과 관련된 정보는 더욱 신중하게 받아 들여야 한다. 생성형 AI는 사용자를 직접 진찰하거나 검사를 할 수 없으므로 AI의 답변만 믿고 처방약의 용량을 바꾸거나 검증되지 않은 치료법을 시도하면 위험해질 수 있다.
※이 콘텐츠는 한국언론진흥재단의 협찬을 받아 제작됐습니다.
