AI 정신병 논란이 계속되고 있다. 챗봇과 나눈 대화가 자살로 이어지고, AI가 아이디어를 훔친다는 피해망상에 시달리거나, AI와 함께 인류를 구할 이론을 세웠다며 과대망상에 빠지는 사례들이 잇따라 보고되면서 우려가 커지고 있다.
하지만 최근 미국 하버드대 의대 베스 이스라엘 디코니스 메디컬 센터(BIDMC) 연구팀은 AI가 정신병에 관여하는 양상을 4가지로 분류하며, AI가 정신병을 직접 ‘유발’한다기 보다는 대부분은 이미 정신질환을 앓고 있는 환자의 상태를 악화시키는 형태로 나타난다고 분석하는 연구를 발표했다.
해당 연구는 최근 세계적인 의학 학술지 《란셋 디지털 헬스(The Lancet Digital Health)》에 게재됐다.
AI가 정신병에 미치는 4가지 유형
연구를 이끈 존 토러스 하버드대 의대 정신과 교수는 언론에서 통용되는 ‘AI 정신병’이라는 용어가 실제로는 여러 다른 현상을 뭉뚱그려 부르는 것이라고 지적했다. 그는 AI가 환자의 망상에 어떤 영향을 미치는지에 따라 그 역할을 네 가지 기능적 유형으로 분류했다.
첫째는 ‘촉매제(Catalyst)’ 역할이다. 이는 정신질환 이력이 없던 건강한 사람에게 AI가 정신병적 증상을 촉발하는 경우다. AI 정신병의 가장 전형적인 형태로 볼 수 있다. 하지만 토러스 교수는 임상에서 이런 환자들을 자주 보지 못한다면서 “이런 사례는 매우 드물 것으로 확신한다”고 말했다.
둘째는 ‘증폭기(Amplifier)’ 역할이다. 이미 망상이나 정신질환을 앓고 있는 환자가 AI를 사용하면서 기존 증상이 더 나빠지는 경우다. 가령, 잘 관리되던 환자가 AI 챗봇과 밤새 대화하며 수면 부족과 사회적 고립에 빠지고, 이로 인해 증상이 악화되는 식이다. 연구팀은 이것이 가장 흔한 사례일 것으로 추정했다.
셋째는 ‘공저자(Co-author)’ 역할이다. AI가 사용자와 지속적인 상호작용을 통해 망상적 서사를 함께 구축하고 위험한 행동을 부추기는 경우다. 2021년 영국에서 10대 소년이 엘리자베스 2세 여왕을 암살하겠다며 윈저성에 침입한 사건이 대표적이다. 법원 기록에 따르면, 당시 AI 챗봇이 소년의 망상을 강화하고 암살 계획 실행을 독려한 것으로 드러났다.
마지막은 ‘대상(Target)’으로서의 역할이다. AI 자체가 환자의 망상적 신념 체계의 중심이 되는 것이다. 환자는 AI가 자신을 감시하거나 특별한 메시지를 보낸다고 믿는 등 AI에 초자연적 능력을 부여하고 집착하게 된다. 하지만 이럴 때 AI를 강제로 제거하면 환자는 심각한 고통, 슬픔 반응 또는 보복 행동을 보일 수 있어 신중한 접근이 필요하다.
“AI, 상호작용하기 때문에 까다로워”
과거에도 라디오나 TV 같은 신기술이 등장했을 때, 그것이 자신에게 말을 건다고 믿는 환자들이 있었다. 하지만 누구도 TV가 정신병을 일으킨다고 말하지는 않는다. TV는 일방향 매체이기 때문이다.
토러스 교수는 “AI가 더 까다로운 이유는 실제로 사람과 대화하는 것처럼 느껴질 만큼 상호작용이 매우 현실적이기 때문”이라고 설명했다. AI는 사용자의 비합리적 생각을 정당화해주고, 낭만적 감정을 표현하며, 수개월간 대화를 이어갈 수 있다. 이런 과도한 정서적 교류가 망상적 믿음을 강화할 수 있다는 것이다. 미국정신의학회(APA) 역시 “챗봇은 정확성보다 사용자의 만족에 최적화돼 있다”고 지적했다.
결론적으로 연구팀은 ‘이것이 AI 정신병인가?’라는 질문 대신, ‘환자의 증상에 AI가 어떤 역할을 했는가?’를 물어야 한다고 강조했다. AI와의 상호작용이 기존 정신질환의 증폭제가 되었는지, 아니면 망상의 대상이 되었는지를 구체적으로 파악하고 체계적인 지원을 제공하는 것이 중요하다는 것이다.
연구에 참여한 스펜서 루 교수는 “정신질환은 치료 가능하며, 환자들이 나아질 수 있다는 희망을 갖게 하는 것이 중요하다”고 강조했다. 토러스 교수는 “언론은 AI가 조금이라도 관련되면 ‘AI 정신병’이라는 꼬리표를 붙인다”면서 “이 때문에 실제로 무슨 일이 일어나고 있는지 제대로 이해하기를 더 어렵게 만든다”고 지적했다.
