“AI가 뛰고 있지만”…페이스북 ‘한남충’ 안되고 ‘김치녀’는 되는 이유?

유동연 페이스북 아시아태평양 콘텐츠 정책담당이 28일 열린 기자간담회에서 발표하고 있다. (페이스북코리아 제공) © 뉴스1

페이스북이 플랫폼 내에서 위반되거나 허용되는 콘텐츠를 판별하는 데 인공지능(AI)을 어느 때보다 적극적으로 활용하고 있다고 밝혔다. 다만 맥락이나 의도를 파악해야 하는 혐오발언과 따돌림·집단 괴롭힘의 경우 전 세계 1만5000여명에 이르는 리뷰 인력에 보다 의존하고 있다는 입장이다.

28일 서울 강남구 역삼동 페이스북코리아 본사에서 열린 기자간담회에서 유동연 페이스북 아시아태평양 콘텐츠 정책담당은 이같이 밝혔다.

페이스북의 커뮤니티 규정에 따르면 페이스북은 유해 콘텐츠를 Δ가짜계정 Δ스팸 Δ성인 나체 이미지 또는 성적인 행위 Δ폭력적이고 자극적인 콘텐츠 Δ테러리스트 선전 Δ혐오발언 Δ따돌림과 집단 괴롭힘 Δ마약판매 Δ아동 나체이미지 및 아동에 대한 성착취 Δ자살 및 자해 등 10개 항목으로 나누어 분류하고 있다.

지난 3분기 기준으로 이 중 혐오발언과 따돌림·집단 괴롭힘을 제외한 모든 유해 콘텐츠의 AI 사전조치율은 90%를 넘었다. 다만 혐오발언의 사전조치율은 80.1%, 따돌림·집단 괴롭힘은 16.1%에 그쳤다. 사전조치율은 페이스북 이용자의 신고가 있기 전 AI가 유해성을 판별하고 삭제한 비율을 뜻한다.

유 콘텐츠 정책담당은 “AI가 나체 이미지, 비디오 등을 판별하는 데는 탁월하지만, 맥락이나 의도가 중요할 때는 사전조치율이 낮을 수밖에 없다”며 “특히 따돌림의 경우 받아들이는 사람이 어떻게 받아들이느냐에 달려 있어 AI 의존도가 낮은 편”이라고 밝혔다.

AI가 유해성을 판별하지 못한 콘텐츠는 사람이 조치를 취하게 된다. 과거 ‘김치녀’ 페이지는 유지하면서 ‘한남충’ 페이지는 삭제해 ‘블루 일베’라는 비판을 듣게 된 것도 여기서 비롯됐다. 리뷰 인력이 한남충과 달리 김치녀는 혐오발언으로 보지 않았기 때문이다.

이날 페이스북 관계자는 “김치녀는 한국 여성 전체가 아닌 특정 행동을 하는 사람을 비판하는 것으로 정의됐지만 한남충은 한국 남성 전체를 가리키는 말”이라며 “커뮤니티 규정상 명확한 기준으로 삭제됐다”고 설명했다. 유 콘텐츠 정책담당은 “김치녀 페이지도 규정을 위반한 게시물을 올렸다 삭제되는 사례가 누적되면 없어질 수 있다”고 덧붙였다.

페이스북은 앞으로도 AI에 대한 지속적인 투자를 통해 유해 콘텐츠의 감지 및 삭제율을 높이겠다는 방침이다. 소피 보겔 페이스북 아시아태평양 정책 커뮤니케이션 매니저는 “이제 AI가 스크립트나 봇뿐 아니라 실제 인물이 가짜계정을 사용하는 경우도 탐지할 수 있다”고 밝혔다. 올해 3분기 페이스북은 17억개의 가짜계정을 삭제했다.

(서울=뉴스1)