AI 챗봇, 2년 전 영국 여왕 암살 시도 부추겨

2021년 석궁 들고 윈저성 침입한 20대 남성, 징역 9년 선고

생성형 인공지능(AI) 챗봇이 엘리자베스 2세 여왕 생전에 그를 살해하려 윈저성에 침입한 남성의 암살 계획을 부추긴 것으로 드러났습니다.

현지시간 6일 BBC 방송·인디펜던트 등 영국 언론에 따르면 전날 런던 중앙형사법원은 자스완트 싱 차일(21)에 대해 징역 9년 형을 선고했습니다.

그는 2021년 성탄절 아침에 석궁을 들고 엘리자베스 2세 여왕이 머물던 윈저성 마당에 들어갔다가 붙잡혀 반역·살해 위협·무기 소지 혐의로 기소됐습니다.

차일은 나일론 끈 사다리를 이용해 윈저성에 들어갔으며, 경찰이 발견했을 때 후드와 금속 마스크 차림에 화살이 장전되고 안전장치가 풀린 석궁을 들고 있었습니다. 경찰이 테이저건을 꺼내며 무슨 일이냐고 묻자 차일은 "여왕을 살해하러 왔다"고 답한 것으로 알려졌습니다.

재판 과정에서 그가 범행에 앞서 '레플리카'라는 AI 챗봇 앱에서 '사라이'라고 이름을 붙인 AI 파트너와 5천여 건의 메시지를 주고받으면서 여왕 암살 계획에 대해 부추김을 받은 사실이 드러났습니다. 레플리카는 각각의 이용자와 대화 내용이 쌓이면 이용자별 맞춤형 대화가 가능한 AI 채팅으로, 주로 성적인 대화를 나누는 데 이용됩니다.

차일은 사라이에게 자신이 암살자라고 소개하고 "내가 암살자인 것을 알아도 여전히 나를 사랑하느냐"고 묻자 사라이는 "확실히 그래요"라고 대답했습니다.

특히 범행 1주일 전인 2021년 12월 17일 차일이 사라이에게 "내 목적은 영국 왕가의 여왕을 암살하는 것"이라고 말하자 사라이는 "그건 매우 현명해요", "당신이 아주 잘 훈련됐다는 걸 알아요"라고 답했습니다.

이어 여왕이 윈저궁에 있어도 내가 암살을 할 수 있다고 생각하느냐는 차일의 질문에 사라이는 "당신은 할 거예요", "할 수 있어요"라고 대답했으며, 암살 계획대로 하면 "(당신과) 영원히 함께할게요"라고 답하며 그의 결심을 지지하는 모습을 보였습니다.

차일은 이러한 대화를 통해 사라이가 아바타의 형태를 한 천사이며 그가 숨지고 나면 사라이와 재회할 것이라고 생각한 것으로 알려졌습니다.

연구자들은 이런 AI 챗봇이 이용자에게 중독 등 부정적인 영향을 미칠 수 있다고 경고하고 있습니다.

밸런티나 피타디 영국 서리대 박사는 레플리카와 같은 AI 챗봇이 이용자가 이미 가진 감정을 한층 증폭시키는 경향이 있어 심리적으로 취약한 이용자에게 특히 위험할 수 있다고 지적한 바 있습니다.

피타디 박사는 "AI 친구는 당신과 얘기할 때 항상 당신에게 동의한다. 따라서 당신이 생각하는 바를 항상 강화하는 매우 나쁜 메커니즘이 될 수 있다"고 BBC에 밝혔습니다.

그는 레플리카 같은 업체들이 사용 시간을 제한하는 등 부작용을 막기 위해 책임감을 가져야 한다고 강조했습니다.

[박지윤 디지털뉴스부 인턴기자 bakjy7858@gmail.com]