AI로 만든 일본 총리 가짜 동영상···일본 정부 "가짜 정보 삼가야"

일본 정부 "경우에 따라 민주주의 기반 손상할 수 있다"

딥페이크, 음성변조기술 등 생성형 AI 기술이 발달하면서, 이를 이용해 정치인의 얼굴과 목소리를 합성한 가짜 영상이 누리꾼 사이에서 인기를 끌고 있습니다. AI를 이용한 기시다 후미오 일본 총리의 가짜 동영상이 온라인에서 확산하자 일본 당국이 "삼가야 한다"며 경고했습니다.

해당 영상에는 일본 민영방송 '니혼테레비'의 로고와 긴급 속보 표시와 함께 양복 차림의 기시다 총리가 보입니다.

얼핏 보면 실제 총리의 긴급 회견처럼 보이지만, 화면 속 총리는 얼굴 하나 변하지 않고 성적 발언을 합니다.

이 영상은 온라인으로 확산돼 지난 2일 엑스(X·옛 트위터)에 올라와 하루 만에 조회수 232만 회 이상을 기록했습니다.

요리우미 신문에 따르면 이는 오사카의 한 20대 남성이 AI에게 총리의 연설 영상 등을 학습시킨 뒤 목소리 싱크로 등을 맞춰 약 한 시간만에 만든 영상입니다.

남성은 "혼란을 초래하려고 한 것은 아니고 다만 사람들을 웃게 하고 싶었다"고 밝혔습니다.

하지만 자신이 하지 않은 발언을 마치 AI를 통해 실제로 한 것처럼 악용할 수 있다는 우려도 나옵니다.

니혼테레비 측에서는 "가짜 동영상을 만드는 데 니혼테레비의 콘텐츠와 로고가 쓰였다는 점은 용납할 수 없다"며 적절한 조치를 취하겠다고 말했습니다.

일본 정부 대변인인 마쓰노 히로카즈 관방장관은 오늘(6일) 오전 정례 기자회견에서 "개별 SNS상의 투고에 대해 코멘트하는 것은 삼가겠다"면서도 "일반론으로 말하자면 정부의 정보를 거짓으로 발신하는 것은 경우에 따라 민주주의의 기반을 손상할 수 있으므로 해서는 안 된다"고 밝혔습니다.

마쓰노 장관은 또 "어떤 의도로든 가짜 정보를 투고하는 행위는 사회를 어지럽게 하거나 타인에게 피해를 주고 범죄가 되는 경우도 있으므로 삼가야 한다"고 당부했습니다.

[김혜균 디지털뉴스부 인턴기자 kimcatfish@naver.com]