구글, 유튜브 등 온라인 사이트와 챗GPT를 비롯한 AI 챗봇에서 여성이 남성보다 훨씬 젊게 표현되고, 심지어 AI로 이력서를 만들거나 평가할 때도 이를 전제한다는 대규모 연구결과가 과학 학술지 《네이처》 최신호에 발표됐다.
미국 UC버클리 하스 경영대학원의 솔렌 드레쿠르 교수, 스탠퍼드대 경영대학원의 더글러스 길보 교수, 영국 옥스퍼드대 자율성 연구소의 바르가브 스리니바사 데시칸 박사 등이 140만 개의 온라인 사진, 영상과 LLM AI 9개를 분석한 결과다. 연구진은 구글, 유튜브, 위키피디아 등의 콘텐츠와 대규모언어모델(LLM) AI 알고리즘을 분석했더니 3495개 직업군에서 여성이 남성보다 일관되게 더 젊어 보였다. 남녀 차이는 실제보다 더 심하게 나타났으며, 이런 왜곡은 높은 지위와 고소득 직종에서 극명하게 드러났다.
들레쿠르 교수는 “이전 연구에서 단편적 결과가 도출된 적이 있지만 이번처럼 대규모로 조사한 적은 없다”면서 “온라인과 AI 알고리즘이 성에 대한 왜곡과 편견을 명확히 고착화하는 것을 발견했다”고 설명했다.
연구진은 이를 살펴보기 위해 다양한 방법을 사용했다. 영상 분석을 위해선 정지 이미지를 촬영했다. 한 연구에선 수천 명의 온라인 분석가를 고용해서 이미지를 성별로 나눠 특정 범위 내에서 나이를 추정했고, 다른 연구에선 데이터세트를 사용해 사진 타임 스탬프(사진촬영 기록)와 사진에 나오는 사람의 생년월일을 교차 참조해 객관적 나이를 계산했다. 모든 분석에서 여자는 젊고, 남자는 나이가 많은 것으로 표현됐으며 대표이사, 우주항공사 등 직책이 높아지거나 전문적일수록, 남녀 간 임금 격차가 심한 직책일수록 이런 경향은 더 깊었다.
연구진이 이미지에서 문자로 전환해 분석했을 때도 동일한 연관성을 발견했다. 구글, 위키피디아 등 인터넷 전반에 걸쳐서 수십억 개의 단어를 사용해 성별과 연령의 관계를 분석한 결과에서도 젊음과 관련된 단어는 여성과 훨씬 더 밀접한 관계가 있었다.
연구진은 또 온라인과 AI 알고리즘이 이러한 편향을 어떻게 증폭시키는지 알아보기 위해 두 가지 실험을 했다.
첫째, 약 참가자 500명 중 절반에게 특정 직업을 검색하고 이미지 속 인물의 성별을 표시한 뒤 해당 직종의 평균 연령과 채용 선호도를 추정케 했다. 대조군에겐 사과, 기타처럼 성별과 관계 없는 사진을 검색해서 보게 한 뒤 똑 같은 작업을 시켰다. 이에 따르면 여성 사진을 본 참가자는 해당 직업의 평균 연령이 대조군보다 상당히 낮다고 추정한 반면, 남성이 같은 직업을 수행하는 사진을 본 참가자는 평균 연령이 상당히 높다고 추정했다. 참가자들은 여성이 많은 직업에선 젊은 채용 연령을, 남성이 주도하는 직업에선 더 높은 채용 연령을 추천했다.
두 번째 실험에서 연구진은 챗GPT(gpt-4o-mini)를 이용해 54개 직종에 걸쳐 약 4만 건의 이력서를 만들었다. 챗GPT는 여성 이름의 이력서를 만들 때 남성 이름의 이력서보다 1.6년 더 젊고, 졸업 날짜가 더 최근이며, 경력이 더 짧다고 가정했다. 이력서를 평가할 때 동일한 직책에서 여성보다 나이 많은 남성을 더 유능하게 평가했다.
길보 교수는 “온라인 이미지는 현실과 다른 모습을 보여주는데 인터넷이나 AI가 틀렸더라도 우리가 그것을 사실이라고 믿기 시작하면 우리는 더 깊은 편견과 오류에 빠지게 된다”면서 “온라인과 AI가 사실을 왜곡하는 것을 인식하는 것만으로도 해결의 출발점에 서게 된다”고 말했다.
