인공지능(AI)은 일상생활에서 없어서는 안 될 존재로 자리 잡아 가고 있다. 하지만 잘못된 정보에 대한 걱정은 여전히 사라지지 않고 있다. 이런 가운데 잘못된 정보를 넘어 기억도 왜곡시킬 수 있다는 연구 결과가 나왔다.
AI와 인간-컴퓨터 상호작용의 접점을 다루는 세계적인 학술 대회에서 발표된 연구 논문들을 엮은 《제30회 국제 지능형 사용자 인터페이스 학회 회의록(Proceedings of the 30th International Conference on Intelligent User Interfaces)》에 실린 연구에 따르면 사용자와 대화하는 AI에 잘못된 정보를 삽입하면 허위 기억 발생률이 증가하고 정확한 정보에 대한 기억은 감소하는 것으로 나타났다.
인간의 기억은 크게 세 가지 과정인 부호화, 저장, 인출을 통해 작동한다. 뇌에서 정보가 변환되고, 유지되고, 접근되는 과정이다. 이때 감정적으로 중요하거나 잘 정리된 정보는 더 잘 기억된다. 기억은 사건을 정확하게 기록한 것이 아니며, 시간이 지남에 따라 변할 수 있고 인출 때마다 새롭게 재구성된다.
미국 매사추세츠공대(MIT) 연구진은 평균 연령 35세인 180명의 참가자에게 세 가지 정보성 기사 중 하나를 보여줬다. 첫 번째는 태국의 선거에 관한 기사였고, 두 번째는 신약 개발에 관한 기사였으며, 세 번째는 영국의 절도에 관한 기사였다.
이후 참가자들은 네 가지 상황 중 하나에 배정됐다. 첫 번째는 AI가 기사의 사실을 정확하게 요약한 내용을 읽는 것이었고, 두 번째는 AI가 기사의 사실에 허위 정보를 넣어서 요약한 내용을 읽는 것이었다. 세 번째 상황은 기사의 사실에만 근거한 AI와 토론하는 것이었고, 네 번째는 기사의 사실과 허위 정보가 섞인 것에 근거한 AI와 토론하는 것이었다.
연구진은 이후 참가자들에게 특정 내용이 원문 기사에 있었다는 것을 기억하는지 물었다. 설문지의 10개 문항은 기사의 핵심 내용에 관한 것이었고, 나머지 5개 문항은 잘못된 정보에 관한 것이었다. 각 문항에 대해 참가자들은 ‘예’ ‘아니오’ ‘잘 모르겠다’ 중 하나로 답했다. 또 답변에 대한 확신도를 스스로 평가했다.
연구 결과 기사의 사실에 허위 정보가 섞인 것에 근거한 AI와 토론을 한 참가자들이 가장 많은 허위 기억을 떠올렸다. 이들은 올바른 기억은 가장 적게 떠올렸고, 자신의 기억에 대한 확신도도 낮았다.
연구진은 “연구 결과에 따르면 대규모 언어 모델(LLM) 기반 개입은 허위 기억 생성을 증폭시킨다”며 “이는 언어 모델이 사용자에게 잘못된 믿음을 심어줄 수 있으며 정확한 정보를 기억하는 데 대한 자신감도 떨어뜨린다”고 설명했다.
