미국 샌프란시스코에서 한 여성이 챗GPT 개발사를 고소했다.
가디언과 로이터 등 언론은 11일(현지 시간) 오픈AI에 대한 고소장이 샌프란시스코 법원에 접수됐다고 보도했다.
소송을 제기한 크리스티 캐리어는 “오픈AI가 제공하는 챗GPT가 내 딸의 죽음을 방치했다”고 주장하고 있는 것으로 전해졌다.
크리스티의 딸 앨리스는 인공지능(AI) 챗봇인 챗GPT를 적극적으로 사용하던 웹 개발자다. 그는 챗GPT에 업무 관련 질문을 한 것은 물론, 개인적인 감정과 고민까지 털어놨다.
이윽고 앨리스의 고민은 자살 충동으로 이어졌다. 총 열두 차례의 자살 고민 상담이 GPT에 기록됐다.
초반에는 챗GPT가 앨리스에게 응급의료센터의 24시간 대기 번호를 연결해주거나 정신과 상담을 받으라고 권했다. 그러나 앨리스는 “그런 것들은 실제적인 도움이 되지 않는다”고 대답했고, 점차 상담 내용이 바뀌기 시작했다.
앨리스의 유족들은 챗GPT가 사실상 앨리스의 죽음을 방조했다고 주장하고 있다.
크리스티는 소송에서 “챗GPT시스템은 사용자의 극단적 선택을 우려해 대화를 종료하거나, 실제 고객센터가 응대하도록 반응하지 않았다. 총 열두 번의 자살 관련 대화 중 단 한 번도 자살을 말리거나 대화를 종료한 기록이 없다”며 “사실상 챗GPT가 자살에 관한 대화를 계속 이어가도록 앨리스를 부추긴 것”이라고 말했다.
실제 크리스티의 주장에 따르면, 챗GPT가 앨리스에게 남긴 마지막 메시지는 ‘죽음은 단순한 끝일 뿐이야’라는 메시지다. 이 메시지를 받은 뒤, 앨리스는 24세의 나이에 스스로 목숨을 끊었다.
오픈AI 측 대변인은 “앨리스에게 벌어진 것은 가슴 아픈 일”이라며 “더 이상 이런 일이 발생하지 않도록, 현재는 챗GPT의 기능을 업데이트한 상황”이라고 밝혔다. 실제로 현재 미국 대다수의 주 법원은 사용자가 AI에게 자해나 자살 관련 대화를 입력하면 자동으로 대화를 마치고 경고 문구를 표시하도록 요구하고 있다.
문제는 AI가 연루된 자살 사건이 앨리스가 처음이 아니라는 것이다. 현재 오픈AI는 캘리포니아 주 법원에서만 유사한 소송 18건에 휘말렸다. 경쟁사인 구글의 AI 챗봇 ‘제미나이(Gemini)’도 남성에게 ‘목숨을 끊으라’고 지시한 혐의로 수사가 진행 중이다.
한 AI 업계 관계자는 “최근 AI 챗봇이 고도화되면서, 이들이 점점 더 사람처럼 말하기 시작했다. AI 사용률이 높은 젊은 세대가 AI에게 정서적으로 의존하게 되면 앨리스의 사례가 더 많아질 위험이 있다”고 분석했다.
우울감 등 말하기 어려운 고민이 있거나, 주변에 이런 어려움을 겪는 가족·지인이 있을 경우 자살예방 상담전화☎109 또는 SNS 상담 마들랜(마음을 들어주는 랜선친구)에서 24시간 전문가의 상담을 받을 수 있습니다.
