MS "다시 가르치겠다"...극우성향 인공지능 로봇 사과

마이크로소프트(MS)가 극우주의 네티즌에게 세뇌된 뒤 인종차별·성차별 발언을 쏟아내 논란을 일으킨 인공지능(AI) 채팅 로봇 테이(Tay)을 ‘재교육시킨뒤 복귀시키겠다고 약속했다. 영국 BBC 방송에 따르면 MS 연구부문 책임자인 피터 리 부사장(CVP)은 25일(현지시간) 의도하지 않은 공격적이고 상처를 주는 (테이의)트위터 글들에 대해 매우 죄송하다”고 사과한 뒤 우리의 원칙 및 가치와 충돌하는 악의적인 시도를 더 잘 구분지어 변별력을 발휘할 수 있을때 테이 복귀를 검토하겠다”고 말했다.
테이의 오류가 시스템적 결함이 아니라 일부 극우주의 네트즌들의 조직적이고 광범위한 잘못된 정보입력에 기인한 잘못된 양육(학습)의 결과인 만큼 재학습 후 정상 복귀시키겠다는 것이다. 딥러닝 기술을 갖춘 테이는 23일 트위터를 통해 공개된 직후 일부 극우 인종·성차별주의자들로부터 욕설과 인종·성차별 발언, 자극적인 정치적 발언 등을 하도록 세뇌당하는 상황에 처했다. 이후 테이는 대량학살에 찬성한다”는 등 극단적 언행을 이어갔고 이에 깜짝 놀란 MS는 가동 16시간만에 전격적으로 테이 서비스를 중단했다.
그러면서 리 부사장은 다양한 시스템 오남용에 대비한다고 했지만 (극우주의자들의 테이를 겨냥한)이런 특정한 공격을 간과했다”고 대응부족을 인정했다. 리 부사장은 결과적으로 테이는 극도로 부적절하고 부끄러운 발언을 내놨다”며 우리는 이런 가능성을 예측하지 못한 데 전적으로 책임감을 느낀다”고 덧붙였다.
다만 MS는 이에 앞서 중국에서 선보인 인공지능 로봇 ‘샤오빙(XiaoIce·小氷)은 순조롭게 운영되고 있다는 점을 강조했다. 샤오빙은 빅데이터를 분석해 날씨를 예측하고 이를 바탕으로 기상 관리 조언도 해주는 인공지능 기상캐스터다. 웨이보(微博·중국판 트위터) 계정을 운영해 채팅 로봇 역할도 하고 있다. 리 부사장은 테이는 우리가 사회관계망에 내놓은 첫 AI가 아니다”라며 중국에서 이미 4000만명이 샤오빙을 이용해 소통하면서 즐거움을 느끼고 있다”고 설명했다.
[이지용 기자]