"지난해부터 AI 이미지 이용한 '가짜 정보' 급증"

구글·듀크대 등 논문…"생성형 AI로 누구나 허위정보 확산 가능"

인공지능(AI)이 만들어낸 이미지를 이용한 허위 정보가 지난해 초 이후 급증했다는 연구 결과가 나왔습니다.

구글과 듀크대 연구팀은 팩트체크 사이트 및 미디어 단체와 최근 공동으로 집필한 논문에서 AI가 생성한 가짜 이미지가 2023년 초 이후 크게 늘어났다고 밝혔다고 미 NBC 방송 등이 보도했습니다.

연구팀은 팩트체크 매체 스노프스(Snopes)가 진위를 확인했던 1995년 이후 2023년 11월까지 13만 6천 건의 팩트체크 사례를 분석했습니다.

논문에 따르면, 지난해 3월 프란치스코 교황이 허리춤이 강조된 흰색 롱패딩을 입은 가짜 사진이 소셜미디어(SNS)에 퍼지기 전만 해도 AI로 생성하는 가짜 이미지는 거의 없었습니다.

그러나 이후에는 AI가 생성하는 가짜 이미지는 텍스트나 포토샵 등 전통적인 방법으로 만들어지는 허위 정보와 비슷한 수준이 될 정도로 급격히 늘었습니다.

연구팀은 "허위 정보 가운데 AI가 생성한 콘텐츠가 크게 증가한 것은 빠르게 변화하는 환경을 보여준다"고 분석했습니다.

앞서 2022년 11월 출시된 챗GPT 이후 AI 열풍이 불면서, 지난해 오픈AI와 구글 등 주요 기업들이 새로운 AI 이미지 생성 도구를 출시했습니다.

누구나 AI 도구를 사용해 이미지를 만들 수 있게 되면서 온라인 상에서 가짜 이미지가 확산하는 일이 늘어나고 있는 겁니다.

실제로 지난 1월 미국 유명 가수 테일러 스위프트의 얼굴에 성적으로 노골적인 자세가 합성된 딥페이크 이미지가 소셜미디어 등에서 확산했고, 지난해 3월에는 도널드 트럼프 전 대통령이 수갑을 찬 채 경찰관들에게 둘러싸여 끌려가는 사진이 퍼지기도 했습니다.

알렉시오스 만찰리스 국제팩트체킹네트워크 전 국장은 "생성형 AI 도구로 거의 누구나 온라인에서 허위 정보를 쉽게 퍼뜨릴 수 있게 됐다고 말했습니다.

그런데 최근 몇 달 동안에는 전통적인 텍스트와 이미지 조작도 다시 증가하고 있는 것으로 조사됐습니다.

머신러닝 플랫폼 허깅페이스의 대표적인 AI 윤리 연구원인 사샤 루치오니는 "AI가 만들어낸 허위 정보가 줄어든 것은 아니다"라며 "AI를 이용한 가짜 정보가 너무 많아 추적하기 쉽지 않기 때문"이라고 설명했습니다.

[박혜민 디지털뉴스부 인턴기자 floshmlu@naver.com]