SNS에 넘쳐나는 'AI 여자친구', ‘위험한’ 신종 사업

인공지능(AI) 기술의 발전과 함께 AI로 만든 선정적인 콘텐츠 광고가 범람해 인스타그램과 틱톡 등 소셜미디어(SNS)가 골머리를 앓고 있습니다. 실제 사람이 아니기에 SNS의 자체 검열 시스템에서 걸러지지 않고 있는 상황을 노린 겁니다.

현지시간 2일 관련 업계에 따르면 이같은 광고가 페이스북, 인스타그램, 틱톡 등 사회관계망서비스(SNS)에 쏟아지고 있습니다.

지난 1일 미국 NBC 방송은 페이스북과 인스타그램 모회사 메타가 소유한 앱에서 AI를 활용한 성(性)적인 콘텐츠 광고를 올린 앱 개발자 35명을 확인됐다고 보도했습니다. 이들 개발자가 올린 광고는 모두 1000여 개에 달합니다. 틱톡에서 자극적인 AI 광고를 싣는 앱 개발자 14명도 확인됐습니다.

NBC는 선정적인 AI 광고가 챗GPT 등장 후 본격화한 생성형 AI에 대한 관심을 활용하려는 움직임의 일환으로서 최근 몇 달간 급증한 것으로 보인다고 분석했습니다.

SNS를 통한 직접적인 성매매 광고는 엄격한 단속 대상이지만 AI를 활용해 만든 ‘성적으로 부적절한(not-safe-for-work·NSFW) 콘텐츠는 제대로 걸러지지 않고 있습니다.

문제의 광고에는 큰 가슴이 부각되는 타이트한 옷을 입은 AI '여자 친구'가 등장해 'NSFW 사진'이나 '맞춤형 핀업 걸', '검열이 안 되는' 채팅을 약속하며 이용자들을 노골적으로 자극하고 있습니다. 이와 같은 앱 개발자들은 대부분 미국이 아닌 해외에 기반을 두고 맞춤형 디지털 캐릭터와 성적 또는 연애에 관심이 있는 고객을 겨냥했습니다.

메타는 이에 대해 사람이 만든 콘텐츠와 AI가 생성한 콘텐츠 모두 똑같이 성인용 콘텐츠 금지가 적용된다”고 밝혔다. 틱톡도 성적으로 자극적인 광고는 금지하고 문제가 된 사례는 삭제하고 있다”고 설명했습니다.

[박지윤 디지털뉴스부 인턴기자 bakjy7858@gmail.com]