“AI가 뛰고 있지만”…페이스북 ‘한남충’ 안되고 ‘김치녀’는 되는 이유?
뉴스1
입력 2019-11-28 16:46 수정 2019-11-28 16:47
유동연 페이스북 아시아태평양 콘텐츠 정책담당이 28일 열린 기자간담회에서 발표하고 있다. (페이스북코리아 제공) © 뉴스1
페이스북이 플랫폼 내에서 위반되거나 허용되는 콘텐츠를 판별하는 데 인공지능(AI)을 어느 때보다 적극적으로 활용하고 있다고 밝혔다. 다만 맥락이나 의도를 파악해야 하는 혐오발언과 따돌림·집단 괴롭힘의 경우 전 세계 1만5000여명에 이르는 리뷰 인력에 보다 의존하고 있다는 입장이다.
28일 서울 강남구 역삼동 페이스북코리아 본사에서 열린 기자간담회에서 유동연 페이스북 아시아태평양 콘텐츠 정책담당은 이같이 밝혔다.
페이스북의 커뮤니티 규정에 따르면 페이스북은 유해 콘텐츠를 Δ가짜계정 Δ스팸 Δ성인 나체 이미지 또는 성적인 행위 Δ폭력적이고 자극적인 콘텐츠 Δ테러리스트 선전 Δ혐오발언 Δ따돌림과 집단 괴롭힘 Δ마약판매 Δ아동 나체이미지 및 아동에 대한 성착취 Δ자살 및 자해 등 10개 항목으로 나누어 분류하고 있다.
지난 3분기 기준으로 이 중 혐오발언과 따돌림·집단 괴롭힘을 제외한 모든 유해 콘텐츠의 AI 사전조치율은 90%를 넘었다. 다만 혐오발언의 사전조치율은 80.1%, 따돌림·집단 괴롭힘은 16.1%에 그쳤다. 사전조치율은 페이스북 이용자의 신고가 있기 전 AI가 유해성을 판별하고 삭제한 비율을 뜻한다.
유 콘텐츠 정책담당은 “AI가 나체 이미지, 비디오 등을 판별하는 데는 탁월하지만, 맥락이나 의도가 중요할 때는 사전조치율이 낮을 수밖에 없다”며 “특히 따돌림의 경우 받아들이는 사람이 어떻게 받아들이느냐에 달려 있어 AI 의존도가 낮은 편”이라고 밝혔다.
AI가 유해성을 판별하지 못한 콘텐츠는 사람이 조치를 취하게 된다. 과거 ‘김치녀’ 페이지는 유지하면서 ‘한남충’ 페이지는 삭제해 ‘블루 일베’라는 비판을 듣게 된 것도 여기서 비롯됐다. 리뷰 인력이 한남충과 달리 김치녀는 혐오발언으로 보지 않았기 때문이다.
이날 페이스북 관계자는 “김치녀는 한국 여성 전체가 아닌 특정 행동을 하는 사람을 비판하는 것으로 정의됐지만 한남충은 한국 남성 전체를 가리키는 말”이라며 “커뮤니티 규정상 명확한 기준으로 삭제됐다”고 설명했다. 유 콘텐츠 정책담당은 “김치녀 페이지도 규정을 위반한 게시물을 올렸다 삭제되는 사례가 누적되면 없어질 수 있다”고 덧붙였다.
페이스북은 앞으로도 AI에 대한 지속적인 투자를 통해 유해 콘텐츠의 감지 및 삭제율을 높이겠다는 방침이다. 소피 보겔 페이스북 아시아태평양 정책 커뮤니케이션 매니저는 “이제 AI가 스크립트나 봇뿐 아니라 실제 인물이 가짜계정을 사용하는 경우도 탐지할 수 있다”고 밝혔다. 올해 3분기 페이스북은 17억개의 가짜계정을 삭제했다.
(서울=뉴스1)
비즈N 탑기사
- 김숙 “내 건물서 거주+월세 수입 생활이 로망”
- “20억 받으면서 봉사라고?”…홍명보 감독 발언에 누리꾼 ‘부글’
- 세계적 유명 모델이 왜 삼성역·편의점에…“사랑해요 서울” 인증샷
- “사람 치아 나왔다” 5000원짜리 고기 월병 먹던 中여성 ‘경악’
- “모자로 안가려지네”…박보영, 청순한 미모로 힐링 여행
- 엄마 편의점 간 사이 ‘탕’…차에 둔 권총 만진 8살 사망
- 8시간 후 자수한 음주 뺑소니 가해자…한문철 “괘씸죄 적용해야”
- 교보생명, 광화문글판 가을편 새단장…윤동주 ‘자화상’
- 힐러리 “내가 못 깬 유리천장, 해리스가 깨뜨릴 것”
- ‘SNS 적극 활동’ 고현정…“너무 자주 올려 지겨우시실까봐 걱정”
- “롯데百의 미래 ‘타임빌라스’에 7조 투자, 국내 쇼핑몰 1위로”
- 합병 앞둔 SK이노, 계열사 사장 3명 교체… 기술형 리더 발탁
- 재건축 단지에 현황용적률 인정… 사업성 증가 효과[부동산 빨간펜]
- HBM의 질주… SK하이닉스 영업익 7조 사상 최대
- ‘美 공급망 재편 수혜’ 인도 주식에 올해 국내 자금 1.2조 몰려
- AI 뛰어든 참치회사 “GPT 활용해 모든 배 만선 만들 겁니다”
- [단독]금융권 전산장애 피해액 5년간 350억… “행정망 오류 책임 커”
- 강력 대출규제에… 서울 9억∼30억 아파트 거래 대폭 줄었다
- 전기 흐르는 피부 패치로 슈퍼박테리아 막는다
- 美, 칩스법 대상 태양광까지 확대… 中 글로벌 시장 장악 견제