페이스북이 살인이나 자살 등 유해 콘텐츠를 거르기 위한 컴퓨터 인공지능(AI) 칩을 자체 개발 중이다. 유해 콘텐츠가 페이스북을 통해 중계되는 것을 원천 차단하기 위해서다.

얀 르쿤 페이스북 AI 수석은 프랑스 파리에서 25일(현지 시간) 열린 비바테크놀로지 콘퍼런스에서 실시간으로 전송되는 유해 콘텐츠를 거르기 위해 머신러닝(ML) 프로세서를 독자적으로 개발하고 있다며 이같이 밝혔다. 르쿤 수석은 “누군가 살인이나 자살을 생중계한다면 이는 바로 제거돼야 한다”면서 “그러기 위해선 엄청난 컴퓨터 성능이 필요하다”고 말했다.

페이스북은 2016년 실시간으로 영상을 중계하는 ‘라이브 스트리밍 서비스’를 시작했다. 그러나 사용자들이 이를 통해 자신의 자살을 중계하거나 사망 사고 현장을 그대로 내보내는 등 부작용이 적지 않았다.

논란이 이어지자 페이스북 최고경영자(CEO) 마크 저커버그는 지난해 3000명을 고용해 유해 콘텐츠를 거르겠다고 발표했다. 하지만 가입자 수 20억 명이 넘는 페이스북의 모든 게시물을 감시하기는 현실적으로 쉽지 않다. 이 때문에 페이스북은 AI 성능을 높여 유해 콘텐츠를 자동으로 거르는 방식을 택한 것으로 보인다.

황규락 기자 rocku@donga.com