[AI선거운동 어디까지]③ "우리 후보 뽑아줘"…AI 음성, 유세차에서 가능할까? [4·10 총선]

과학기술과 경제, 교육 등 우리 삶의 전반에 영향을 미치기 시작한 AI. 오는 4월 총선에서의 쓰임이 관심입니다. 중앙선거관리위원회는 AI가 만들어낸 가짜 이미지와 오디오, 비디오 등의 콘텐츠는 유권자 인식을 왜곡할 위험이 있다 보니, 관련 규정을 점검하고, 본격 AI 선거운동 감시에 나섰습니다. MBN은 유권자와 후보들에게 OX 퀴즈 형식을 빌려 AI를 활용한 선거운동, 어디까지 허용 가능한지 관련 정보를 제공하고자 합니다.

"우리 후보 뽑아주세요"

선거 유세차에서 'AI 음성'을 통한 지지 호소, 가능할까요?

상대방 후보 목소리를 복제한 게 아니더라도 문제가 될까요?

정답은 "문제가 된다"입니다.

내 목소리라고 안심했다간...

지난 2022년 선거 유세차에서 지지를 호소하는 당시 유정복 인천시장 후보, 위 사진은 기사와 무관함 / 사진 = MBN

국회의원 선거 운동 기간은 선거법상 14일로 정해져 있습니다.

제 22대 총선의 선거 운동 기간을 따져보면 3월 28일부터 입니다.

유권자들이 선거 기간임을 본격적으로 체감할 수 있는 유세차량, 선거 운동원 등의 활동을 다음 달 28일부터 볼 수 있는 겁니다.

지난 대선까지는 AI 관련 선거 규정이 따로 없었습니다.

하지만 이번에 개정된 공직선거법에 따라 선거 유세차에서 딥페이크 영상은 물론 음성도 활용할 수 없습니다.

사진 = 게티이미지뱅크

선거일 전 90일부터 선거일까지 딥페이크 영상을 제작, 편집, 유포, 상영, 게시하는 행위를 금지한 공직선거법 개정안이 지난해 말 국회 본회의를 통과했고, 이를 위반하면 7년 이하의 징역 또는 1,000만 원 이상 5,000만 원 이하의 벌금에 처해집니다.

딥페이크 영상 뿐만 아니라 '가상의 음향', '이미지'까지 처벌 받게 됩니다.

AI로 쉽고 간편하게 내 목소리를 복제해 선거 유세차량에서 틀어야겠다고 생각하는 후보자들도 있을 것 같습니다.

하지만 본인 목소리이니까 괜찮다고 섣불리 생각했다가 징역을 살거나 벌금을 물 수도 있습니다.

후보자 본인의 목소리를, 본인이 제작했다고 하더라도 딥페이크로 만들었다면 선거 운동에 활용할 수 없기 때문입니다.

'바이든 딥페이크 음성' 유포...미 대선 '우려'

사진=연합뉴스

AI 음성을 활용한 전화 지지 역시 할 수 없습니다.

이미 AI를 악용한 허위 정보가 민주주의에 중대 위협이 될 것이라는 경고는 현실화되고 있는 모습입니다.

미국 대선 경선이 시작된 뒤, 지난달 딥페이크를 이용해 바이든 대통령의 가짜 목소리를 만들어 유권자들에게 투표 포기를 독려하는 전화가 기승을 부려 당국이 골머리를 앓고 있습니다.

특히 "말도 안되는 소리죠"란 대통령이 즐겨쓰는 표현까지 써 감쪽같이 유권자들을 속였는데, 즉시 수사에 착수했지만 11월 본선까지 미국은 조작 선거운동과의 전쟁이 불가피해보입니다.

AI 음성 틀 수 있는 날 올까?

이런 혼란을 볼 때, 국내의 경우 일찍이 규제한 게 다행일 수도 있을텐데요.

그렇다면 선거전에 AI 음성을 사용할 수 있는 날은 기약 없는 걸까요.

디지털융합교육원 AI선거전략연구소 최재용 원장은 "SNS를 사용하는 선거 운동도 SNS 사용이 활성화된 이후 허용됐다"며 "생성형 AI 사용이 더 대중화된 다음에 사용 가능한 시대가 올 것"이라고 내다봤습니다.

이미 생성형 AI가 보편화되고 있는데다, 유튜브 영상과 책, 논문 등에서도 AI 도움을 받았다면 이를 알리고 있는 만큼, 'AI 표식 의무화'만 동반되면 허용될 필요가 있다는 게 전문가들의 의견입니다.

최 원장은 "AI인 걸 명시했다면 선거 유세 차량에서 AI 음성을 틀어도 괜찮다고 본다"며 "AI를 활용했다는 건 그만큼 후보자가 AI에 대한 이해도와 활용도가 높다는 것이니 다른 후보와 차별화되는 포인트라고 생각한다"고 말했습니다.

다만 "딥페이크 기술은 양날의 칼"이라며 "잘 사용하면 좋은 요리를 만들고, 나쁘게 사용하면 범죄에 이용된다"면서 경계심을 늦추지 말 것을 덧붙였습니다.

[윤혜주 디지털뉴스 기자 heyjude@mbn.co.kr]