일상생활에서 편하고 빠르게 결정을 내리는데 많은 사람들이 컴퓨터 알고리즘에 점점 더 의지하고 있다. 이렇게 알고리즘이 우리의 일상생활을 서서히 침범하는 것에 대한 우려에도 불구하고 사람들은 다른 사람의 의견보다 컴퓨터 프로그램을 더 신뢰하는 경향이 있다는 연구 결과가 나왔다.
미국 조지아대학교 테리 경영대학 연구진은 사람들이 정보를 처리하고 의사결정을 내리는 데 언제, 어떻게 알고리즘을 사용하는지 분석하는 대규모 연구를 진행하고 있다. 이번 연구결과는 부여된 과제의 난이도가 높아질수록 사람들이 컴퓨터 알고리즘과 타인의 의견을 어떻게 이용하는지에 대한 것이다.
연구진은 참가자 1,500명에게 한 무리의 사람들 사진을 보여주고 몇 명인지 세어보도록 했다. 그리고 이에 대해 다른 사람들이 제시한 의견과 알고리즘이 생성한 의견을 알려주었다.
사람 수를 세는 작업을 실험과제로 정한 것은 사진 속 사람 수가 많아질수록 객관적으로 난이도가 높아지는데, 이런 유형의 과제는 컴퓨터가 잘할 것으로 기대하는 작업이기 때문이라고 연구진은 설명했다.
난이도가 어려워질수록 컴퓨터 결과에 의존
사진 속에 있는 사람 수가 많아져 직접 세는 것이 어려워질수록, 즉 과제의 난이도가 높아질수록 참가자들은 직접 세거나 ‘군중의 지혜’를 따르기 보다 알고리즘이 생성한 의견을 따르는 경향이 강해졌다.
연구진은 “AI가 가진 문제점 중 하나는 신용등급을 매기거나 대출 승인을 해주는 등 주관적인 결정을 내릴 때 사용되는 경우”라며 “소득이나 신용점수 등 숫자가 많이 필요한 작업이라는 이유로 사람들이 이러한 일에 알고리즘을 사용하는 것이 좋은 결정이라고 생각한다”고 말했다.
하지만 알고리즘에 의존할 경우 사회적 요인을 고려하지 않기 때문에 차별적 관행으로 이어질 가능성이 많다. 예를 들어 얼굴인식과 채용에 알고리즘을 사용하는 것이 문제의 도마에 오르기도 했다. 알고리즘이 설계된 방식에 문화적 편견이 드러나 얼굴로 신원을 확인하거나 적합한 지원자를 선별할 때 부정확한 결과를 초래할 수 있다는 이유에서다.
물론 숫자를 세는 단순한 작업에 이러한 편견은 존재하지 않는다. 다만 사람들이 신뢰하여 사용하는 알고리즘에 이러한 편견이 있다면 의사결정에 영향을 미칠 수 있다. 따라서 오늘날 사람들이 어떻게 알고리즘에 의존하는지 먼저 이해하는 일이 중요해졌다는 것이 연구진의 설명이다.
연구진은 현재 창의적인 결정을 내리거나 도덕적 판단을 할 때 사람들이 어떻게 알고리즘에 의존하는지 알아보는 연구를 진행하고 있다.
이번 연구 결과는 네이처 자매지 ‘사이언티픽 리포트(Scientific Reports)’에 발표됐다.