"비윤리적이다" 숨진 사람 목소리 되살리는 아마존 AI 신기능 논란

전문가, 사이버 범죄에 악용될 가능성 지적
죽은 사람 데이터 권한 귀속 문제도

아마존의 인공지능(AI) 음성인식 서비스 알렉사가 숨진 가족의 목소리를 되살릴 수 있는 신기능을 공개했습니다.

현지시간 22일 아마존은 라스베이거스에서 열린 '리마스(Re:Mars)’ 콘퍼런스에서 인공지능(AI) 음성인식 비서 '알렉사'의 새로운 기능을 선보였습니다. 알렉사는 1분 미만의 음성 샘플을 가지고 특정인 목소리를 그대로 복제해 흉내 낼 수 있고, 심지어 숨진 가족의 목소리도 재현할 수 있습니다.

아마존은 해당 신기술의 시연 동영상을 공개했는데, 한 어린이가 할머니 목소리로 오즈의 마법사 책을 읽어달라고 하자 알렉사는 할머니 음성을 재현해 책을 읽었습니다.

로히트 프라사드 수석부사장은 "이런 속성은 신종 코로나바이러스 감염증(코로나19) 기간 더 중요해졌다"며 "AI가 코로나19로 사랑하는 가족을 잃은 고통을 없애주지는 못하지만, 그들에 대한 기억을 오래 지속시킬 수 있다"고 설명했습니다. 다만 "아직 이 기능은 개발 중에 있다"며 출시일에 대해선 언급하지 않았습니다.

한편 워싱턴포스트(WP)는 현지시간 23일 이러한 알렉사의 신기능에 대해 범죄에 악용될 여지가 있다는 점, 또 윤리적 문제와 사망자의 데이터 권한에 대해 지적했습니다.

온라인 보안업체 소셜프루프시큐리티의 레이철 토백 최고경영자(CEO)는 "사이버 범죄자가 음성 샘플을 사용해 다른 사람 목소리를 복제해낸다면 이는 사기와 데이터 탈취, 계정 도용 등으로 이어질 수 있다"고 설명했습니다.

또 호주 커틴대학의 타마 리버 인터넷학 교수는 "죽은 사람의 데이터를 사용하는 것은 섬뜩하고 비윤리적"이라며 이러한 음성 재현 기술이 사람과 기계 사이의 경계를 모호하게 만든다고 주장했습니다. 이어 "만약 내 할아버지가 100개의 음성 메시지를 나에게 보낸다면 그 데이터는 누가 갖는가. 아마존이 소유하고 나는 그 데이터에 대한 권리를 포기하게 되는가"라며 사망자의 개인정보 권한을 누가 갖게 되는 것인지 반문했습니다.

[디지털뉴스부]