인공지능(AI)으로 만든 인물 영상이 각종 범죄에 쓰이고 있다. 점점 더 정교해지는 탓에 일반인은 언뜻 봐서 구분이 어렵다.
식품의약품안전처는 최근 한 식품 유통업체를 검찰에 송치했다. ‘식품표시광고법’을 위반했다는 혐의다.
해당 업체는 사회관계망서비스(SNS)에 허위광고를 게시했다. 아무런 효과가 없는 일반 식품을 광고하면서 “신체나이를 줄이고 노화를 막아준다”고 부풀린 것이다. 여기에 신뢰감을 얻기 위해 AI로 생성한 가짜 의사를 등장시킨 점도 문제가 됐다.
업체는 지난해 9월부터 올해 5월까지 9개월간 약 65만 개의 제품을 판매해 총 81억 원 매출을 기록한 것으로 집계됐다.
실제 인물과 구분 어려워… AI 생성 인물 어느 정도길래
현재 가장 널리 쓰이는 형태의 AI는 ‘챗봇’ 형태다. 구글의 ‘제미나이’나 오픈AI의 ‘챗GPT’를 생각하면 쉽다. 사용자와 AI가 대화를 주고받으며 작업을 해 나가는 방식이다.
문제는 이런 방식에서는 사용자가 정보를 입력하기 너무 쉽다는 점이다. 포토샵을 다루지 못하는 사람도, 컴퓨터 개발에 지식이 전혀 없는 사용자도 간단한 외모나 신체 묘사만으로 가상의 인물을 뚝딱 만들어낼 수 있다.
이번에 식약처가 검찰에 송치한 유통업체는 중년 남성 의사를 생성했다. 최근 의사들이 유튜브 쇼츠나 인스타그램 릴스 등 ‘짧은 동영상’에 등장하는 사례가 많아졌다는 것을 이용한 것으로 보인다.
광고에 쓰인 영상을 보면 실제 사람과 구분이 어렵다.
한 영상업계 관계자는 “이 정도 수준의 AI 영상은 전문 영상업자라면 아무리 넉넉히 잡아도 30분이면 만든다. 초보자도 유튜브 강좌를 참고하면 3시간 안에 한 편을 만들 수 있을 것”이라고 분석했다.
AI 앞세운 불법광고, 속지 않으려면?
물론 AI로 만들어 낸 인물을 구별하는 방법이 몇 가지 있다. 손가락 방향·치아 구조가 어색하거나, 피부 톤이 부자연스러울 정도로 매끄러운 인물은 AI로 생성했다는 것을 의심해볼 수 있다.
업계에서는 인물이 아닌 배경을 주목하는 방법을 추천한다. 아직까지는 AI가 인물과 배경을 동시에 만들어내는 능력이 떨어지기 때문이다. 사물의 원근법이 어긋나거나, 인물 뒤의 배경 선이 갑자기 끊기고, 글자가 의미 없는 기호로 뭉개져 있는지를 확인하는 게 좋다.
식약처는 더 근본적인 부분을 강조한다. 영상에 등장하는 것이 실제 의사더라도, 이들이 식품을 광고하는 것은 불법이라는 점이다.
식품표시광고법에 따라 의사·치과의사·한의사·약사 등 전문가는 특정 식품을 추천하거나 보증하는 광고를 할 수 없다. 이에 의사가 전면 등장해 제품의 효능을 설명하는 광고라면 불법 여부를 의심하고 식품 설명이나 정보를 면밀하게 살펴야 한다.
식약처 관계자는 “온라인 모니터링·행정조사·수사로 이어지는 3중 감시 체계를 운영해 국민이 안심할 수 있는 소비 환경을 조성하겠다”고 전했다.
