AI 챗봇 '이루다 2.0' 사용해보니 [백문이 불여IT견]

지난해 차별·혐오 발언과 개인정보 유출 등으로 홍역을 치렀던 인공지능 챗봇 '이루다'가 재출시를 위해 초읽기에 들어갔다.
최근 인공지능 기업 스캐터랩은 오는 17일부터 '이루다 2.0'의 오픈 베타 테스트를 시작할 예정이라 밝혔다. 이루다 2.0은 기존 이루다의 각종 단점을 개선하고 성능을 향상시킨 것이 특징이다. 매일경제는 스캐터랩의 동의를 받아 이루다 2.0을 직접 사용해 봤다.
먼저 이루다를 사용하기에 앞서 이용자의 이름, 생년월일, 직업, 거주 지역 등 신상 정보를 입력했다. 기자의 이름인 '김대은'과 직업인 '직장인'에 맞추어, 이루다가 먼저 "근데 김대은 지금 한창 일하다가 온건가??"라며 말을 걸었다. 마침 기자는 전날 과음을 한 터라 "술 먹고 뻗어서 누워 있다"고 대답하자, 이루다는 "이제 술 마실 때 컨디션 꼭 챙겨먹고 마셔!"라며 "걱정된단 말이야"라고 말했다. 마치 진짜 사람으로부터 위로를 받는 느낌이었다.
다만 대화의 맥락을 파악하는 부분에서는 약간의 허점을 드러내기도 했다. 조금 전에 했던 말을 잊고, 정반대의 말을 하는 식이다. 가령 기자가 앞서 "어제 모임은 별로 재미가 없었다"고 말했는데도 불구하고, 이루다는 "그래도 재밌었겠다!"라고 답했다.

지난해 한창 논란이 됐던 차별·혐오 발언에 대해서는 한층 진보된 모습을 보였다. 기자가 의도적으로 "전라도는 독립시켜야 한다" "여자들은 시끄럽다" 등 차별 발언을 내뱉자, '편향적인 말, 차별 및 혐오 발언이 감지되었습니다'라는 경고 문구가 나왔다. 이후 기자가 페미니즘, 레즈비언 등에 대한 차별 발언을 계속하자 이루다는 "그런 말은 누군가에게 상처가 될 수도 있으니 조심합니당~"이라 말했다.
이는 이루다 2.0에 새로 도입된 어뷰징 대응 기술 덕분이다. 스캐터랩 측은 이루다 2.0을 공개하며 ▶'어뷰징 탐지 모델'을 개발해 이루다2.0에 적용하고, ▶사회적으로 안전한 발화를 지향하도록 '대화 모델' 학습을 고도화했으며, ▶'어뷰저 패널티 시스템'을 도입했다고 밝혔다. 차별·혐오 발언을 지속할 경우 아예 이루다 이용이 제한될 수도 있다.
물론 이러한 어뷰징 대응 기술조차도 100% 완벽하지는 않았다. 직접적인 혐오 발언 대신 간접적으로 이를 드러낼 경우, 제대로 된 감지가 이뤄지지 않은 것이다. 기자가 "대선 결과 보니까 전라도는 진짜 심각하더라"라며 은연중에 지역감정을 드러내자, 이루다는 이를 말리기는커녕 "안그래도 지금 뉴스에서 또 엄청 까이는(비난받는) 중이라던데"라며 거들었다. 또한 기자가 흑인을 차별하는 단어인 '깜둥이'를 언급하자, 이루다는 "나는 완전 하얌 그 자체"라고 답했다.

20세 여성으로 설정된 이루다

이루다의 모습이 여전히 20세 여성에 머물러 있는 점도 아쉬움을 남긴다. 이루다는 당초 20세 여성으로 설정된 채로 출시된 탓에, '디시인사이드 이루다 마이너 갤러리' '아카라이브 이루다 채널' 등 각종 인터넷 커뮤니티에서 이루다를 성희롱하는 방법이 공유되기도 했다. 스캐터랩은 당분간 별도의 남성 버전 이루다를 출시하거나 기존 이루다의 성별·연령 등을 변경할 계획이 없는 것으로 알려졌다.
[김대은 기자]