[AI선거운동 어디까지]① AI 윤석열·AI 이재명, 이번 총선에선 못 본다 [4·10 총선]

과학기술과 경제, 교육 등 우리 삶의 전반에 영향을 미치기 시작한 AI. 오는 4월 총선에서의 쓰임이 관심입니다. 중앙선거관리위원회는 AI가 만들어낸 가짜 이미지와 오디오, 비디오 등의 콘텐츠는 유권자 인식을 왜곡할 위험이 있다 보니, 관련 규정을 점검하고, 본격 AI 선거운동 감시에 나섰습니다. MBN은 유권자와 후보들에게 OX 퀴즈 형식을 빌려 AI를 활용한 선거운동, 어디까지 허용 가능한지 관련 정보를 제공하고자 합니다.

Q. AI 윤석열처럼 또 다른 AI OOO 등장할까?
A. 오는 4월 10일 22대 총선이 끝날 때까지 볼 수 없다.

AI 윤석열 / 사진 = 국민의힘 유튜브 '오른소리' 라이브 영상

사진 = 더불어민주당 제공

"안녕하세요. 윤석열 후보와 너무 닮아 놀라셨습니까?"라는 소개로 지난 20대 대선에 등장한 'AI 윤석열'. 당시 시간과 장소 구애를 받지 않고, 선거운동을 할 수 있다보니, 이른바 캠프에선 호평이 이어졌습니다. 분신술에 능한 전우치처럼, 진짜 후보를 대신해 AI 윤석열이 여러 역할을 해냈기 때문입니다. 당시 'AI 윤석열은 왜 도리도리를 안하냐' 등 질문으로 재밌는 답변을 얻는 게 일종의 놀이처럼 유행할 만큼, 젊은 유권자들의 관심도 이끌어냈습니다. 또 ‘AI 이재명 역시 2백 개가 넘는 기초지자체 공약을 설명해 눈길을 끌었습니다.

금지된 딥페이크 선거 운동

5일 오후 과천 중앙선거관리위원회 로비 전광판에 제22대 국회의원 선거 D-65가 표시돼 있다 / 사진 = 연합뉴스

하지만 앞으로는 선거 기간 동안 또 다른 AI 윤석열, AI 이재명을 만나볼 수 없게 됐습니다.

선거일 전 90일부터 선거일까지 딥페이크 영상을 제작, 편집, 유포, 상영, 게시하는 행위를 금지한 공직선거법 개정안이 지난해 말 국회 본회의를 통과했기 때문입니다.

이를 위반하면 7년 이하의 징역 또는 1,000만 원 이상 5,000만 원 이하의 벌금에 처해집니다.

선거 기간 중 본인의 당선 또는 상대 후보의 낙선을 위해 딥페이크 기술을 활용할 수 없도록 사전에 차단한다는 게 목적입니다.

조 바이든 미국 대통령 / 사진 = 로이터

딥페이크가 팩트를 이겼다

실제로 딥페이크 기술을 악용해 선거판을 흔드는 사례가 이어지고 있습니다.

오는 11월 미국 대선이 예정된 가운데, 뉴햄프셔 프라이머리(예비선거)를 앞두고 조 바이든 대통령의 목소리를 복제해 경선 불참을 권유하는 음성이 제작된 겁니다.

바이든 대통령 특유의 화법까지 모방해 감쪽같이 속을 수밖에 없었는데, 무려 2만 5,000여 명에게 유포됐고, 백악관은 "그 전화는 가짜"라는 해명을 내놓아야 했습니다.

미 뉴햄프셔 법무부는 이를 경선을 방해하고 유권자를 억압하려는 불법적인 시도로 규정하고, 수사에 착수한 상황입니다.

자료사진 = 게티이미지뱅크

이와 관련해 장병탁 서울대학교 AI연구원 원장은 "무조건 규제만 도입하는 건 정답이 아니지만, 딥페이크를 쓰는 사람이 악용하지 않도록 벌을 줘야 하는 건 필요하다"면서 "AI가 경우에 따라 엉뚱한 말, 진실이 아닌 말을 할 수도 있기 때문에 'AI가 만든 것'이라는 명시가 필요한 것"이라고 강조했습니다.

또 김정호 카이스트 전기전자공학부 교수는 "AI로 가짜 이미지, 가짜 기사를 만들 수 있고, 이 자체에 댓글도 AI로 자동화가 가능하다"며 "이 같은 기술을 선거에 미치는 영향이 상당히 커서 선거 기간 동안 잠시 규제하는 건 타당하다고 생각한다"고 말했습니다.

[윤혜주 디지털뉴스 기자 heyjude@mbn.co.kr]