신종 코로나바이러스 감염증(코로나19) 이후로 온라인 상에 혐오발언이 늘어 플랫폼에서 콘텐츠를 삭제하는 양이 증가한 것으로 나타났다. 특히 네이버, 카카오 등 국내 포털 업체들이 악플이 몰리는 연예뉴스 댓글을 폐지하며 악플근절에 나서면서 ‘악플러의 천국’이 된 인스타그램에 혐오발언 증가세가 두드러진다는 분석이다.

페이스북은 12일 “혐오 발언에 대한 페이스북의 사전 감지율이 2020년 1분기 89%에서 2분기 95%로, 6%P 증가했다”고 밝혔다. 이에 따라 조치를 취한 콘텐츠도 960만건에서 2250만건으로 134% 급증했다고 설명했다.

인스타그램의 경우 혐오 발언이 올해 1분기 45%에서 39%P 증가해 84%로 늘었다. 이에 따른 조치 건수는 80만건에서 330만건으로 증가했다.

인스타그램 측은 “더 많은 수의 자살 및 자해 콘텐츠를 파악할 수 있도록 텍스트와 이미지 매칭 기술을 강화했으며 조치가 취해진 콘텐츠의 양이 40% 늘었고, 사전 감지율이 지난 보고서와 비교해 12%p 이상 증가했다”고 밝혔다.

회사 측에 따르면 데이터베이스에 포함된 기존의 규정 위반 콘텐츠와 유사한 콘텐츠를 감지하고 삭제하는 기술이 향상돼 페이스북과 인스타그램에서 더 많은 성인물 콘텐츠를 삭제했다.

페이스북·인스타그램은 내년부터 유해 콘텐츠 처리에 대한 수치의 정확성을 보장하기 위해 독립적인 제3자 기관의 감사를 토대로 커뮤니티 규정 집행 보고서에 발표된 수치를 검증받을 계획이다.

(서울=뉴스1)