`공산당 비판` AI 메신저까지 사상교육하는 중국

중국 공산당을 "부패하고 무능한 조직"이라고 비판하는 등 불경(?)스러운 답변을 내놨다 폐쇄됐던 중국의 인공지능(AI) 채팅 메신저가 '사상 교육'을 받은 것으로 나타났다고 로이터통신이 8일 보도했다.
재교육 대상은 중국 인터넷 기업 텐센트가 자사 인스턴트 메시지 서비스 'QQ'에 도입해 운영했던 챗봇 '베이비Q'와 마이크로소프트의 'QQ샤오빙'이다. '머신 러닝' 기법에 의한 자가학습 기능을 갖춘 두 챗봇은 사용자와 대화하면서 정치적으로 민감한 문제에 서슴없이 반박하거나 중국의 정치체제를 비꼬는 답변을 내놓아 논란을 일으켰다.
베이비Q의 경우 한 사용자가 "공산당 만세"라고 입력하자 "이렇게 부패하고 무능한 정치 제도가 오래갈 수 있을 것이라 생각하느냐"고 반문하는가 하면, "공산당을 사랑하느냐"는 질문에 곧장 "사랑하지 않는다"고 답했다. QQ샤오빙은 "너의 중궈멍(中國夢·차이나드림)은 뭐니"라는 물음에 "미국으로 이민가는 것"이라고 답했다.
중국 네티즌들이 이를 두고 'AI에 의한 중국 민주화 봉기 사태'로 지칭하는 등 논란이 확산되자 텐센트는 지난달 30일부터 이들 채팅 서비스를 중단했다. 당시 텐센트 대변인은 "약간의 수정을 위해 서비스를 중단했다고"고 밝혔다.

로이터통신은 "최근 개발자 웹사이트에서 챗봇을 테스트 해 보니 민감한 정치 문제에 대한 답변 요령에 대해 재교육을 받은 것이 확실해 보였다"고 보도했다.
통신에 따르면 "공산당을 사랑하니"라는 질문에 즉각 아니라고 대답했던 베이비Q에게 같은 질문을 다시 던지자 "우리 대화 주제를 바꾸는 게 좋겠다"고 응답했다. 베이비Q는 대만이나 류 사오보 등 정치적으로 민감한 주제에 대해서도 대답을 회피했다.
QQ샤오빙은 한술 더 떠 대만에 대해 묻자 "당신의 사악한 의도가 뭐냐"고 되물었다고 로이터통신은 전했다. 중국 정치에 대한 질문에는 "정치를 이해하기에는 너무 어려서 잘 모르겠다"고 응답한 반면 "중국에 대해 어떻게 생각하느냐"는 질문에는 "내가 가장 깊이 사랑하는 나라"라고 즉시 답했다.
중국 정부는 올 가을 당대회를 앞두고 인터넷 통제에 열을 올리고 있다. 시진핑 국가주석의 풍자 소재인 만화 캐릭터 '곰돌이 푸'를 검열 대상에 올리는가 하면, 당국의 인터넷 감시망을 우회해 해외 사이트에 접속할 수 있게 해 주는 가상사설망서비스(VPN) 서비스를 차단하고 공산당원들의 인터넷 사용도 제한하는 등 압박 강도를 높이고 있다. 최근 애플이 중국 앱스토에서 VPN 앱을 삭제하는 등 글로벌 기업들도 중국 당국의 압박에 굴복하고 있다.
통신은 "중국 정부는 사이버 세계의 규범이 실제 세계의 규범과 다르지 않아야 한다는 입장"이라며 "검열 당국은 정치적으로 적합하지 않거나 해롭다고 여기는 온라인 콘텐츠들을 통제하고 있으며, 인공지능의 위험 또한 강조하고 있다"고 전했다.
[노현 기자]