화웨이의 AI, 얼굴 스캔하면 위구르인만 골라낸다

중국에게 신장 위구르 지역은 골치아픈 곳입니다. 종교도 다르고, 언어도 다르며, 독립에 대한 열망도 크죠. 하지만 중국정부는 어떤 소수민족도 중국이라는 국가의 울타리를 벗어나는 것을 용납하지 않고 있습니다. 그런데, 9일 중국정부를 위한 IT 시스템을 많이 개발하고 있는 화웨이가 이 위구르 사람들을 잡아낼 수 있는 안면인식 시스템을 개발했다는 기사가 나왔습니다. 한번 내용을 정리해 봅니다.
■ 팩트 : 워싱턴포스트와 IPVM이라는 비디오감시 정보기관은 이날 화웨이와 안면인식 스타트업 메그비(Megvii)가 2018년 협업을 통해 군중 속에서 사람들의 얼굴을 스캔해서 나이, 성별, 민족 등을 구분할 수 있는 인공지능 카메라 시스템을 테스트했다고 보도. 특히 중국 정부에서 탄압하고 있는 지역인 신장 위구르 지역 사람이 카메라에 잡힌다면 자동으로 '위구르 알람'을 발동해 경찰에게 통보하는 시스템이 개발된 것으로 드러남.
■ 신장 위구르 지역의 문제 : 신장 위구르 지역은 민족적으로는 투르크 족에 가깝고, 언어는 중국의 표준어나 광둥어가 아니라 터키어에 가까운 언어를 사용하고 있음. 전체 2600만명 정도의 인구가 살고 있는데 그 중 절반 정도인 1100만명 정도가 이슬람 신자임. 이들은 티벳지역처럼 자치구로 정해져있지만, 실제로는 베이징 중앙정부의 행정력이 강하게 미치고 있음. 특히 중국 중앙정부는 중국으로부터 분리하려 하는 위구르 지역 사람들에 대한 강력한 통제 및 인권탄압을 하고 있다는 서방 언론의 보도가 잇따르고 있음.
■ 인공지능을 활용한 위구르인 감시 : 2019년 뉴욕타임즈는 중국의 안면인식 데이터 베이스를 중국 내부고발자 5명과 분석해 보도했음. 중국의 인공지능 기업과 중국 공안당국이 비밀리에 광범위하게 소수민족들을 카메라로 분간해 낼 수 있는 감시망을 만들었다는 내용이었음. 그에 따르면 이 감시망은 한달에 50만명의 안면을 스캔할 수 있는 기능을 갖췄다고 함. 특히 이런 시스템을 만들 수 있었던 중국 민간회사들에는 피델리티, 퀄컴 등과 같은 미국기업들의 투자자금이 흘러들어갔음.
■ 화웨이의 개입 이렇게 밝혀져 : 신장 위구르 지역 주민들을 감시하기 위한 시스템 개발에 화웨이가 연루돼 있다는 사실은 알려지지 않고 있다가 9일 워싱턴포스트의 보도로 화웨이가 중국 정부의 감시망 개발에 동참했었다는 사실이 밝혀짐. 이 정보는 화웨이가 중국어로 작성하여 '대외비'로 분류한 서류였으나, 어이없게도 인터넷 상에서 검색할 수 있도록 노출돼 있었음. 문서에는 메그비가 '위구르인 식별기능'를 포함한 안면인식 시스템을 개발했으며 화웨이가 이 기술을 검증(Passed) 했다고 적혀 있음. 해당 문서는 IPVM과 워싱턴포스트가 취재를 통해 화웨이에 공식질의를 하면서 삭제된 상태.

삭제된 문서에 포함된 `위구르인 경고` 문구 [사진 = IPVM]

■ 인공지능 윤리위원회가 있긴 했지만 : '메그비'라는 기업은 2019년 상장을 추진했으나 실패했음. 상장 당시 제출한 서류에는 사내에 인공지능 윤리위원회가 존재한다고 적혀 있는데, 그 위원 중 한 사람인 프랑스 에너지솔루션 회사 슈나이더 일렉트릭의 엠마누엘 라가리그 CIO는 "나는 그 회사와 아무런 관계가 없다"고 밝힘. 메그비가 접촉해 와서 같이 일하자고 한 것은 사실이지만 제안을 거절했고, 인공지능 윤리위원회는 단 한 차례로 열리지 않았다는 것.
■ 화웨이와 메그비의 항변 : 화웨이 대변인은 보도 직후 "단순히 테스트였을 뿐이고 실제로 출시된 적은 없다"면서 "화웨이는 맞춤형 알고리즘이나 애플리케이션을 제공하지 않는다"고 부인했음. 메그비 대변인도 "특정 민족을 표적으로 하거나 표시하도록 시스템을 설계하지 않는다"고 강조했음. 해당 문서에서도 화웨이-메그비가 공동개발한 솔루션이 어디에 활용됐는지는 적혀 있지 않았음.
인공지능 기술은 매우 강력합니다. 그 기술이 잘못된 의도를 갖고 있는 권력의 손아귀에 쥐어 진다면 소수자들에 대한 감시와 폭력에 사용될 수 있다는 점을 위 사실들은 보여주고 있는 것 같습니다.
[실리콘밸리 = 신현규 특파원]