흑인 얼굴 구별못한 AI… 안면인식 인종차별 논란

美경찰, 무고한 시민 범인 오인
엉뚱한 체포 최소 3건… 모두 흑인
“수염만 닮았는데” 억울함 호소
MS 제품 등 189개 안면인식 AI… 흑인-아시아계 오류, 백인의 100배

미국 경찰의 안면인식 인공지능(AI) 오류 때문에 절도범으로 몰린 시민 니지어 파크스 씨(오른쪽)와 진범이 경찰에게 제시한 가짜면허증 속 사진. 파크스 씨 변호사 제공·미 인터넷매체 메일온라인 캡처

미국에서 안면인식 인공지능(AI)의 오류로 무고한 흑인이 범인으로 체포되는 일이 잇따르고 있다. AI에 의존한 사법 정책이 미 사회의 뇌관인 인종차별을 더 악화시킬 것이란 우려가 나온다.

29일 뉴욕타임스(NYT)에 따르면 최근 뉴저지주 패터슨의 슈퍼마켓에서 일하는 흑인 니지어 파크스 씨(33)는 당국이 자신을 도둑으로 오인해 체포하고 수감했다며 당국을 고소했다. 그를 포함해 안면인식 AI의 오류로 엉뚱한 사람을 체포한 사례가 최소 3건이며 피해자는 모두 흑인이었다.

지난해 1월 경찰은 흑인 좀도둑이 여관 내 가게에서 사탕을 훔쳤다는 신고를 받고 출동했다. 당시 범인은 도주하면서 경찰과 실랑이를 벌였고 자신의 차로 경찰차를 들이받았다. 이 과정에서 범인으로부터 가짜 운전면허증을 건네받은 경찰은 이 면허증 속 사진을 주 당국에 보내 안면인식 AI로 범인을 찾도록 했다. 그 결과 AI는 과거 마약 판매 혐의로 2회 체포된 전력이 있던 파크스 씨의 사진과 범인의 사진이 일치한다고 판별했다.

체포된 파크스 씨는 보석 전까지 구치소에서 10일을 보냈다. 과거 범죄 이력으로 중형을 선고받을 가능성이 높아지자 그는 짓지도 않은 범죄를 인정하되 형량을 감경 받는 ‘플리 바기닝’에 거의 동의할 뻔했다.

하지만 사건 발생 당시 현장에서 약 48km 떨어진 곳에 있었다는 걸 보여주는 송금 기록을 간신히 확보해 지난해 11월에야 무혐의 처리됐다. 파크스 씨는 “범인과 나는 전혀 닮지 않았다. 비슷한 점이라면 수염이 있다는 것뿐”이라며 억울함을 호소했다.

올해 1월에는 미시간주 디트로이트에 사는 흑인 로버트 윌리엄스 씨가 비슷한 피해를 입었다. 그는 상점에서 물건을 훔친 혐의로 아내와 딸들이 보는 가운데 경찰에 체포돼 30시간을 구치소에서 보냈다. 최종 무혐의 결정을 받은 윌리엄스 역시 주 경찰이 활용한 안면인식 AI에 의해 범인으로 지목됐다.

미 국립표준기술원(NIST)이 지난해 마이크로소프트(MS) 제품을 포함해 189개 안면인식 AI를 분석한 결과, 흑인 및 아시아계에 대한 오류 비율이 백인보다 10∼100배 높았다. 또한 AI는 여성을 잘 식별하지 못했고, 노년의 얼굴을 잘못 인식할 확률도 중년의 10배에 달했다.

당국이 다른 증거가 아니라 AI에 의존할 때 오류 위험은 더 커졌다. NBC방송에 따르면 파크스 씨는 “구치소에 있는 동안 경찰은 내 지문과 DNA를 확인하는 등 추가 증거를 확보하려 하지 않았다”고 질타했다. 그의 변호사는 “안면인식 AI를 제외한 다른 모든 증거는 파크스 씨가 범인이 아님을 가리켰다”고 가세했다.

시민단체 미국시민자유연합은 “이런 사건은 안면인식 기술이 얼마나 인종차별적이고 인권을 침해할 수 있는지 보여 준다”며 정부기관이 안면인식 AI 사용을 전면 중단해야 한다고 촉구했다. 일부 주는 안면인식 AI 사용을 일부 중범죄로 제한하고 민간 감시위원회에 사용 내용을 보고하는 등의 개선 방안을 검토하고 있다고 NYT는 전했다.

조종엽 기자 jjj@donga.com