"러시아에 항복합니다"…딥페이크 영상으로 거짓 정보 확산

아일랜드 연구팀 "딥페이크 영상 신중한 접근 필요해"

인공지능(AI)을 통해 사람들의 말과 행동 등을 조작하고 합성하는 딥페이크(deepfake) 영상이 소셜미디어에서는 이미 심각하게 일어나고 있습니다.

아일랜드 유니버시티 칼리지 코크(UCC) 존 투미 교수팀은 오늘(26일) 과학 저널 '플로스 원'(PLos ONE)에서 러시아의 우크라이나 침공 관련 딥페이크 동영상에 대한 트윗을 분석했습니다. 해당 영상은 딥페이크가 다양한 불신을 낳고 음모론을 부추길 가능성이 있는 것으로 확인됐습니다.

연구팀은 러시아의 우크라이나 침공과 관련된 딥페이크 동영상은 전쟁에 영향을 미치려는 시도로 사용된 첫 사례라고 밝혔습니다. 딥페이크 기술이 잠재적인 피해를 일으킬 수 있다는 것에 대해 우려가 된다고 덧붙였습니다.

AI를 사용한 딥페이크 동영상에는 실존 인물이 하지 않은 말과 행동을 합니다. 실제로 러시아의 우크라이나 침공 후 볼로디미르 젤렌스키 우크라이나 대통령이 러시아에 항복하는 딥페이크 동영상이 등장해 화제가 됐습니다.

연구팀은 지난해 1~8월 엑스(구 트위터)에서 러시아-우크라이나 전쟁 관련 딥페이크 동영상에 관한 트윗 4,869건을 추출했습니다. 이 가운데 사용자의 반응과 의견 등이 담긴 1,231건을 분석했습니다.

결과에 따르면 딥페이크 관련 뉴스에 대한 부정적인 반응도 많았지만, 동시에 실제 동영상이 딥페이크로 오인되고 딥페이크가 미디어 전반에 대한 불신과 음모론을 부추길 가능성이 큰 것으로 나타났습니다.

젤렌스키 대통령이 러시아에 항복하는 모습이 담긴 딥페이크 영상에서는 우려와 충격, 혼란을 표하는 트윗이 많았습니다.

하지만 딥페이크로 정치적 라이벌을 겨냥하거나, 특히 풍자나 오락용으로 제작된 딥페이크에 대해서는 잠재적 피해를 간과하거나 긍정적인 반응을 보인 경우도 많았습니다.

일부 사용자는 딥페이크 영상의 영향으로 러시아-우크라이나 침공에 대한 모든 보도를 믿지 못하는 불신감을 드러내기도 했습니다.

연구팀은 딥페이크 영상이 사실을 전하는 실제 동영상의 신뢰까지 훼손할 수 있다고 하며, 교육과 엔터테인먼트에서의 딥페이크 사용도 재고돼야 한다고 지적했습니다.

이어 언론매체와 정부는 교육용 딥페이크와 사전 교육이 진실을 훼손할 위험성을 신중히 검토하고, 실제 미디어에 대한 불신을 초래하지 않도록 딥페이크 라벨을 붙이는 데 신중해야 한다고 덧붙였습니다.

[강혜원 디지털뉴스부 인턴기자 ssugykkang@gmail.com]