SNS에 만연한 'AI걸'…음란물 무차별 유포 우려

생성형 AI 발달로 이미지 제작의 진입장벽이 낮아지면서 온라인에서 선정적인 이미지가 대거 양산돼 무차별적으로 유포될 수 있다는 우려가 커지고 있습니다.

대부분의 이미지 제작용 AI가 기존에 있던 이미지를 데이터로 학습해 새로운 이미지를 제작하는 원리인 만큼 실존 인물의 사진이 성적인 용도로 악용될 가능성도 있습니다.

어제(1일) 기준 인스타그램에서 'aigirl'이라는 단어를 검색하면 67만여 개의 게시물이 쏟아졌습니다. 대부분의 게시물이 여성의 특정 신체 부위를 부각하거나 노출 수위가 높은 이미지를 포함하고 있었습니다.

최근에는 일반인이 생성형 AI를 통해 '돈벌이'를 하는 경우도 생겨나고 있습니다. 이미지 제작 AI를 이용해 '가상 여자친구'를 만들거나, 노출이 포함된 여성 이미지를 제작한 뒤 인스타그램 등에 게시함으로써 이용자들에게 후원금을 받는 경우도 있습니다.

대부분의 SNS는 연령 제한 없이 누구나 쉽게 접근 가능하다는 점도 문제입니다.

초등학교 교사 임모(28) 씨는 "성에 관심이 커지는 고학년 학생들은 AI 프로그램에 선정적인 키워드를 입력할 가능성이 있다"며 "그런 키워드로 그림을 그려낸다면 아이들의 성 인식을 왜곡시키고 정서적으로도 좋지 않을 것 같다"고 말했습니다.

음란물이나 선정적 이미지의 범람은 AI 기술의 발달로 인한 대표적인 부작용으로 꼽힙니다. 가상의 캐릭터를 대상으로 한 선정적인 이미지의 유포를 넘어, 기존 동영상에 다른 사람의 얼굴을 합성하는 기술인 딥페이크를 활용해 실존 인물을 성적 대상화한 불법 허위 음란물이 만들어지는 사례도 급증하고 있습니다.

전문가들은 생성형 AI의 자체적인 윤리 판단이 어렵기 때문에 이미지를 배포·유포하는 단계에서 차단하는 것이 필요하다고 지적했습니다.

김주호 한국과학기술원(KAIST) 전산학부 교수는 "AI 프로그램이 실존 인물의 그림을 재료로 삼아 실사화하고, 성적 대상화하더라도 이것이 음란하거나 실존 인물의 인권을 침해했다고 단정하기는 쉽지 않다"며 "이미지의 생성 자체를 막는 기술적 요소를 강구하기보다는 유포·활용 단계에서 제재하는 것이 바람직하다"고 강조했습니다.

[박지윤 디지털뉴스부 인턴기자 bakjy7858@gmail.com]