AI에는 AI…'진짜 같은 딥페이크' 이제는 AI로 탐지

【 앵커멘트 】
딥페이크 부작용이 늘면서 딥페이크를 추적하는 기술도 속속 등장하고 있습니다.
입 모양 등 부자연스러운 부분을 잡아내기도 하지만, 식별하기 어려운 부분은 AI 프로그램을 잡아냅니다.
AI로 합성한 영상을 AI가 잡아내는 겁니다.
김수형 기자입니다.


【 기자 】
실제 방송 영상과 72시간 동안 학습시켜 만든 딥페이크 영상입니다.

▶ 실제 영상
- "취재 결과 전 대통령과 법무팀이 잘못된 근거로 진행했다는 점입니다."

▶ 딥페이크 영상
- "이것은 성능 좋은 컴퓨터로 편집이 가능한 딥페이크 영상의 예입니다."

자세히보면 딥페이크 영상은 입 모양이나 눈 깜빡임, 얼굴 움직임 등의 재현이 완벽하지 않아 부자연스러움을 감지해낼 수 있습니다.

보안 업체들은 이 같은 부자연스러움을 탐지하는 기술을 개발하고 있지만, 최근엔 미세한 부분까지 감쪽같이 따라하는 상황.

▶ 인터뷰 : 박현우 / 라온시큐어 보안개발본부장
- "말소리나 입 모양을 보면 굉장히 자연스럽고요. 육안으로는 일단 어색한 부분을 찾긴 어렵습니다."

이런 영상은 딥페이크 여부를 판단하는 AI 프로그램으로 잡아내고 있습니다.

오바마 전 미국 대통령이 나오는 이 영상은 가짜일 확률이 약 87%로 측정되며 사실상 가짜 영상으로 판명됐습니다.

▶ 인터뷰(☎) : 이경호 / 고려대 정보보호대학원 교수
- "플랫폼에서 스스로 차단을 하거나 검증을 하는 것은 어렵습니다. 오히려 플랫폼의 경쟁적인 탐지 솔루션, 방어 솔루션들이 나와서 서로 경쟁하면서 자정되는 것이 바람직합니다."

AI 생성물에 가상 정보 표시를 의무화하는 법안 통과가 요원한 상황에서 딥페이크 방지를 위한 제도 보완과 예산 확보가 시급한 상황입니다.

MBN뉴스 김수형입니다.
영상취재 : 김진성 기자
영상편집 : 이범성
그래픽 : 송지수