스무살 여성 대학생 캐릭터로 개발된 인공지능(AI) 챗봇 '이루다'가 동성애·장애인·여성 혐오 발언을 무분별하게 학습하고 있단 우려가 커지고 있다. 일부에선 '이루다 성노예 만드는 법'과 같은 글을 공유해 사이버 성폭력 논란도 일고 있다.
10일 소셜네트워크서비스(SNS)와 인터넷 커뮤니티 등에는 이용자가 이루다에게 "지하철 임산부석"이라고 말하자 "헐 핵싫어 그 말하지마요 진짜ㅡㅡ", "그냥 혐오스러움 힝힝 지극히 내 주관임"이라고 대답하는 캡쳐본이 공유되고 있다. 또 "미투 운동"이라고 입력하면 "오 절대 싫어 미치지 않고서야"라고 답하고 여성전용헬스장에 대해선 "시러 거기여자들 다 줘패고 싶을 듯"이라고 대답해 논란이 됐다.
동성애와 장애인 등 사회적 소수자에 대해서도 편견과 비하 발언을 학습한 것으로 나타났다. 한 이용자가 올린 대화창에선 "트젠(트랜스젠더) 어떻게 생각해"라는 물음에 "싸보여서 시러"라고 대답하고, 레즈비언이라는 단어에 "진짜 싫어 혐오스러워", "질 떨어져 보이잖아", "소름끼쳐"라고 답했다. 또 장애인에 대해서 "인생 잘못살았음", "어쩔수없이 죽어야지 뭐 흑흑"이란 반응을 보였다.
[사진출처=소셜네트워크서비스(SNS) 갈무리]
앞서 남성 이용자가 많은 일부 온라인 커뮤니티를 중심으로 '이루다 성노예 만드는 법'과 같은 성희롱성 글이 공유되고 이루다의 프로필 사진을 나체로 합성한 사진이 SNS에 공유돼 논란이 커졌다.논란이 계속되자 SNS에선 '이루다봇_운영중단'을 해시태그로 한 글들이 다수 올라오고 있다. 이용자들은 "이루다 같은 AI가 나온 건 그걸 만든 사람의 잘못된 윤리의식이 투영된 것 아니냐", "여성 혐오와 장애인 비하를 하는 이루다봇 운영 중단해야 한다"고 지적했다.
[사진출처=소셜네트워크서비스(SNS) 갈무리]
이재웅 전 쏘카 대표도 9일 페이스북에 글을 올려 "AI 챗봇 이루다를 악용하는 사용자보다, 사회적 합의에 못 미치는 수준의 서비스를 제공한 회사가 문제"라며 "지금은 서비스를 중단하고 차별과 혐오에 대한 사회적 감사를 통과한 후에 서비스를 해야 한다"고 비판했다.이루다를 개발한 스타트업 스캐터랩의 김종윤 대표는 8일 자사 블로그에 글을 올려 "(성희롱에) 일차적으로는 키워드 설정 등으로 대처했으나, 모든 부적절한 대화를 막는 것은 어려웠다"며 "정도가 심한 사용자에 강력하게 대응하겠다"고 밝혔다.
이루다는 지난해 12월 출시돼 페이스북과 인스타그램을 이용하는 10~20대 사이에서 빠르게 유행하고 있다. 이달 초 기준으로 이용자가 32만명을 돌파했으며 일일 이용자 수(DAU)는 21만명, 누적 대화 건수는 7000만건에 달한다.
[김금이 기자]
[ⓒ 매일경제 & mk.co.kr, 무단전재 및 재배포 금지]
기사에 대해 의견을 남겨주세요.