알고리즘의 데이터 편향성 연구


혐오발언을 방치한다는 비판을 받아온 페이스북이 인종차별 이슈 관련 새로운 팀을 만들기로 했다.

21일(현지시간) 월스트리트저널(WSJ)에 따르면 페이스북과 페이스북 소유 인스타그램은 알고리즘의 인종적인 편견을 연구할 팀을 구성하고 있다.

페이스북과 인스타그램은 흑인 및 소수민족 사용자와 백인 사용자가 받는 자사 알고리즘 영향을 비교분석할 예정이다. 인스타그램은 ‘평등과 포용팀’을 꾸렸으며 페이스북도 비슷한 계획을 추진하고 있다.

알고리즘은 인간의 의사 개입 없이 데이터를 기반으로 자동 추론·연산을 수행한다. 사람의 실수와 편견을 배제할 수 있다는 기대를 받았지만 데이터 편향성으로 인해 오히려 편견을 굳힌다는 우려가 나온다.

2015년 구글의 사진 저장 서비스 ‘구글 포토스’는 흑인의 얼굴을 ‘고릴라’로 인식해 논란이 일었다.

탐사보도 전문매체 프로퍼블리카는 형사재판 피고인의 재범 확률을 예측하는 알고리즘 프로그램 컴파스(compas)가 인종차별적 판단을 한다고 2016년 보도했다. 보도에 따르면 컴파스는 흑인의 재범 확률을 백인보다 훨씬 높게 계산했다. 컴파스는 판사들이 보조자료로 활용한다.

한편 페이스북의 이 같은 결정은 광고주들의 불매운동이 계속되는 가운데 나왔다.

시민단체들이 ‘이익을 위한 혐오를 멈춰라(Stop Hate For Profit)’ 운동을 추진한 이후 스타벅스, 코카콜라, 유니레버, 디아지오, 룰루레몬, 파타고니아, 노스페이스, 리바이스 등 수백개 기업들이 페이스북 광고 중단을 선언했다. 디즈니도 광고비를 대폭 삭감했다.

[서울=뉴시스]