'펜타곤 폭발·트럼프 체포' 수백만 명 낚였다…가짜뉴스 주의보

【 앵커멘트 】
미국 펜타곤 근처 폭발 사진 한 장에 뉴욕 증시가 출렁이고, 전직 대통령이 경찰에 쫓기는 사진 한 장을 주요 외신이 잇따라 보도했는데, 알고 보니 이 사진, 모두 AI가 만든 거였죠.
워낙 정교해서 진짜인지 가짜인지 구분도 안 되는데, 사회적 혼란이 적잖습니다.
가짜뉴스를 생산하는 AI를 적극 규제해야 한다는 목소리가 높아지고 있습니다.
신영빈 기자가 취재했습니다.


【 기자 】
미 국방부 펜타곤으로 보이는 건물 바로 옆에서 검은 연기가 치솟습니다.

언뜻 9·11이 떠오르는 폭발 현장 사진입니다.

도널드 트럼프 미국 전 대통령이 경찰에 제압당하고, 프란치스코 교황은 허리춤이 강조된 흰 롱패딩을 입은 사진.

모두 SNS에서 화제가 됐는데 외신을 통해 빠르게 확산했지만, AI가 만든 가짜뉴스였습니다.

▶ 스탠딩 : 신영빈 / 기자
- "제가 직접 AI로 이미지를 꾸며보겠습니다. 초등학교에서 총을 든 한국 소년이라는 텍스트를 입력하면, 조악해도 나름 그럴싸한 이미지가 만들어집니다. 벌어지지 않은 일이 벌어진 것처럼 쉽게 꾸며낼 수 있는 겁니다."

이렇다 보니 지난주 미국에서는 첫 인공지능 청문회까지 열렸고, 사회적 혼란을 최소화하는 작업이 속도를 내고 있습니다.

▶ 인터뷰 : 샘 올트먼 / 챗GPT 개발사 '오픈AI' CEO
- "이 기술이 꽤 크게 잘못될 수 있다고 생각합니다. AI 분야에 규제가 필요하다는 게 제 생각입니다."

정부도 발맞춰 최근 가짜뉴스 피해 사례 신고 센터를 만들었지만 이제 시작 단계입니다.

법안 역시 AI로 만든 콘텐츠는 그 사실을 의무적으로 표기한다는 수준으로 발의돼 아직 국회 문턱을 넘지 못했습니다.

▶ 인터뷰(☎) : 차미영 / 카이스트 전산학부 교수·IBS 연구원
- "큰 플랫폼들이 국민 생활에 미치는 여파가 너무 크기 때문에 규제가 먼저 들어가야 (하지 않을까)…외부의 독립적인 기관에서 전문가들이 들어가서 감사를 할 수 있는 시스템(이 필요하다고 봅니다)."

그러는 사이 최근엔 나훈아 사망설을 AI가 더빙한 가짜뉴스가 혼란을 불러오기도 하면서, AI 규제 논의 필요성은 더욱 절실해지고 있습니다.

MBN뉴스 신영빈입니다.
[welcome@mbn.co.kr]

영상취재: 김진성 기자
영상편집: 한남선
그래픽: 송지수·염하연