“자동화된 아파르트헤이트”… AI 안면인식 카메라로 서안지구서 주민통제

[위기-기회 갈림길에 선 AI]
앰네스티 ‘인종차별 정책’ 보고서

팔레스타인 주민 약 3만3000명이 거주하는 요르단강 서안지구의 헤브론 내 이스라엘군 통제지역(H2). 팔레스타인 주민은 이동하기 위해 수많은 검문소를 거치는데 검문소 앞에 도착하면 가장 먼저 안면 인식 카메라와 만난다.

세계 최대 인권 단체 국제앰네스티는 지난달 2일(현지 시간) 이스라엘이 AI 안면 인식 시스템으로 팔레스타인 주민을 통제하는 방식을 파헤친 보고서를 공개했다. 보고서 제목은 ‘자동화한 아파르트헤이트(인종 차별 정책)’다.

보고서에 따르면 이스라엘군 통제지역 56번 검문소엔 외부에만 최소 24대의 카메라가 설치돼 있다. 카메라를 통해 데이터를 쌓고 인공지능(AI) 기술로 학습한 소프트웨어 ‘레드 울프’가 안면 인식을 마치면 이스라엘 군인들에게 3가지 신호를 보낸다.

검문소 통과가 가능하면 녹색, 심문이 필요하면 노란색, 체포 신호는 빨간색이다. 만약 데이터베이스에 안면 인식 정보가 없어 식별할 수 없는 주민이면 카메라가 얼굴을 새로 찍어 저장한다. 이렇게 쌓인 팔레스타인 주민의 사진과 신원 등 모든 정보는 군인들이 보유한 휴대전화를 통해 확인할 수 있다.

뉴욕타임스(NYT)는 “AI 기술에 의존하는 대규모 감시 시스템이 전 세계적으로 확산하고 있다는 것을 보여주는 최신 사례”라고 평가했다.



지민구 기자 warum@donga.com

관련기사

• “얼굴 인식해 공격하는 AI… 방패를 찾아라”
• EU, ‘안면인식 AI 금지-챗GPT 출처 의무화’ 최종 협상 돌입