롤러코스터 탄 푸틴과 김정은…AI 가짜뉴스 처벌 어디까지? [일문chat답]

AI기본법 21대 국회서 폐기
정부, AI 생성물에 워터마크 표시 의무화 추진 중

푸틴 러시아 대통령과 김정은 북한 국무위원장이 나란히 롤러코스터에 앉아 환하게 웃는가 하면 소프트 아이스크림 콘을 사먹기도 하고 리무진 안에서 셀카 삼매경에 나섰습니다.

AI로 생성된 가짜 이미지 / 사진 = SNS

지난달 푸틴 대통령과 김 위원장이 평양에서 정상회담을 한 뒤 SNS를 통해 빠르게 확산된 사진인데, 모두 인공지능, AI로 생성된 가짜 이미지였습니다.

그럼에도 해당 사진들을 접한 일부 누리꾼들은 "정상회담 후 평양 놀이공원을 방문한 것이냐"며 궁금해 했습니다.

국제적으로 이슈가 된 AI 생성 가짜뉴스는 이번 논란이 처음이 아닙니다.

AI로 생성된 가짜 영상 / 영상 = SNS

최근 자신을 부가티 파리 대리점 직원이라며 소개한 한 남성의 영상으로 젤렌스키 우크라이나 대통령 부부가 전쟁 중에 슈퍼카를 구입했다는 의혹에 휩싸였는데, 이 또한 AI 기술을 이용해 생성된 영상이었습니다.

이 남성은 최고급 슈퍼카 브랜드 부가티에서 출시한 '투르비옹'이라는 차량을 우크라이나 대통령 부부가 구입했다고 말하며 계약서 사본도 함께 공개했습니다.

투르비옹이 1대 당 67억 원에 달하는 최고급 슈퍼카인 터라, 어떻게 전쟁 중에 사치를 하냐며 전 세계적으로 공분을 일으켰습니다. 하루 만에 조회 수가 1,800만 회를 기록할 만큼 충격적인 소식으로 전해진 겁니다.

우크라이나와 전쟁 중인 러시아가 우크라이나를 궁지에 몰기 위한 작전으로 보인다는 해석도 나왔는데, 자칫하면 전쟁의 판세를 바꿀 수도 있었던 이 같은 콘텐츠를 처벌할 방법은 없는 걸까요?

AI 즉 인공지능으로 대화를 나누는 챗GPT, 어떤 분야를 묻든 막힘없이 술술 답을 내놓고 있습니다. 이렇다 보니 활용처도 늘고 있는데요. MBN [일문chat답]에서는 매일 화제가 되는 뉴스에 대해 챗GPT에게 물어 관련 정보부터 전망까지 우리 삶에 미치는 영향을 짚어보겠습니다.

먼저 챗GPT는 푸틴 대통령과 김 위원장의 사진에 대해 "여러 법적, 윤리적 문제를 야기할 수 있다"며 "두 인물 모두 국제 정치에서 매우 중요한 위치에 있다. 이들과 관련된 가짜 이미지는 외교 문제를 초래할 수 있으니 생성과 배포에 있어 매우 신중해야 한다"고 강조합니다. 또 "AI로 생성된 이미지가 사실로 오인될 수 있는 경우 이는 가짜 뉴스와 허위 정보의 범주에 들어가 사회적 혼란을 야기할 수 있다"고 부연했습니다.

AI 기술로 퍼진 우크라이나 대통령 부부의 슈퍼카 구입 의혹에 대해서도 "우크라이나 내에서 정치적 불안을 초래할 수 있고, 전쟁 등의 위기 상황에서 이런 뉴스는 국민들의 신뢰를 떨어뜨리고 불만을 초래할 수 있다"며 "우크라이나의 국제적 이미지도 손상된다"고 지적했습니다.

AI로 생성된 가짜 이미지 / 사진 = SNS

챗GPT는 "AI로 가짜 이미지를 생성하는 행위는 여러 법적 이슈와 연관될 수 있다"며 타인의 저작물을 무단으로 사용해 가짜 이미지를 생성할 땐 '저작권법'에, 타인의 명예를 훼손하거나 허위 정보를 유포할 땐 '정보통신망법'에 저촉될 수 있다고 언급했습니다.

실제로 AI 딥페이크 프로그램을 이용한 범죄는 지난 2020년 성폭력범죄의 처벌 등에 관한특례법에 불법 음란합성물에 대한 처벌 규정이 신설되면서 처벌이 가능해졌습니다.

딥페이크 영상은 선거 운동 활용에도 제한적입니다. 선거일 전 90일부터 선거일까지 딥페이크 영상을 제작, 편집, 유포, 상영, 게시하는 행위를 금지한 공직선거법 개정안이 지난해 말 국회 본회의를 통과했고, 이를 위반하면 7년 이하의 징역 또는 1,000만 원 이상 5,000만 원 이하의 벌금에 처해집니다.

다만 AI 기술 규제와 관련해 한국은 아직 걸음마 단계입니다. AI 관련 법이 없으면 처벌하기 쉽지 않은 게 현실인데, AI와 관련해 전반적인 내용을 다 담을 수 있는 'AI 기본법'은 지난 21대 국회 임기와 함께 폐기됐습니다.

이 때문에 AI 경쟁을 위한 골든타임만 흘려보내고 있다는 비판적인 목소리가 나오고 있습니다. AI 관련 기업들의 경쟁력 강화를 위해선 법과 제도적으로 지원을 해주고 한계를 설정해서 해당 분야에 불확실성을 제거해줘야 하는데, 'AI 기본법'은 상임위 문턱도 못 넘고 사라졌기 때문입니다. 이에 더해 AI 기술로 인해 피해보는 사람들을 위한 대책 마련도 없다는 지적도 나옵니다.

사진 = 의안정보시스템 캡처

다행히 아직 불씨는 꺼지지 않았습니다. 오늘(8일) 국회의안정보시스템을 보면 22대 국회 개원과 함께 AI 관련 법안이 6건이나 발의됐습니다. 지난달 26일 초당적 연구모임인 'AI 포럼'도 창립됐고, 정부는 이번 달 대통령 직속 국가인공지능 위원회도 출범합니다. 과학기술정보통신부는 새로운 디지털 질서 성립 추진 계획의 하나로 AI 생성물에 워터마크 표시를 의무화하는 방안을 추진 중입니다.

[윤혜주 디지털뉴스 기자 heyjude@mbn.co.kr]