AI 댓글관리부터 자동신고까지…인스타그램, ‘악플퇴치’에 전념
뉴시스
입력 2020-09-15 14:41 수정 2020-09-15 14:42
코로나19로 SNS 활동 증가…사이버불링 방지 필요성 커져
인스타그램을 비롯한 많은 소셜미디어 플랫폼이 생활의 필수적인 존재가 된 가운데 유명인, 일반인을 가리지 않고 악성 댓글이나 DM 등으로 온라인 괴롭힘도 일어나고 있다.
특히, 코로나19로 인해 SNS 활동이 늘어나 ‘사이버불링(온라인 괴롭힘)’에 대한 인식 제고와 적절한 방지에 대한 논의와 더불어, 건강하고 행복하게 소셜 미디어를 사용해야하는 필요성이 더 커지고 있다.
인스타그램은 15일 사이버불링을 방지하는 AI 댓글관리, 자동신고 등 다양한 기능을 소개했다.
우선 가이드라인과 이용 약관을 따르지 않으면 콘텐츠가 삭제되거나 계정이 비활성화되는 등의 제재를 받을 수 있다. 가이드라인 위반 사항을 발견하는 경우, 기본 신고 기능을 사용하여 신고가 가능하다. 인스타그램 글로벌 담당팀이 이를 검토하고 가이드라인을 준수하지 않는 콘텐츠를 최대한 빠르게 삭제하기 위해 노력하고 있다. 인스타그램은 전 세계 5개 지역에서 24시간 연중무휴로 신고를 처리한다.
또 이용자가 사진과 동영상에 댓글을 달 수 있는 사람을 관리할 수 있다. 앱 설정의 ‘댓글 관리’ 섹션에서 모든 사람, 팔로우하는 사람 및 그 사람의 팔로워, 팔로우하는 사람만 또는 팔로워 등의 옵션을 선택하여 댓글을 허용할 수 있다. 댓글 필터링 기능으로 괴롭힘을 비롯한 불쾌한 댓글을 자동으로 숨길 수도 있다
아울러 인스타그램은 이번달 중 AI 기술에 기반한 ‘댓글 경고’ 기능을 도입한다. 부정적인 댓글을 작성해 게시하기 전에 댓글 작성자에게 해당 댓글이 상대에게 공격적 받아들여질 수 있다는 점을 미리 알려 스스로 댓글을 취소하거나 더 순화된 표현을 사용하도록 돕는다는 취지다.
인스타그램 관계자는 “이 기능을 통해 이용자들이 다른 계정을 팔로우하는 상태에서도 원하지 않는 소통을 제한해 사이버 불링에 대응할 수 있도록 지원할 예정”이라고 말했다.
또 ‘머신 러닝’에 기반해 인스타그램에 올라오는 사진과 글 중 비방을 목적으로 하는 게시물이나 악성 콘텐츠를 찾아 자동으로 신고, 라이브 방송 중에도 비방용, 악성 댓글 등 부적절한 댓글을 자동으로 필터링 해 예상치 못하게 발생할 수 있는 사이버 불링을 예방한다.
지원요청 기능도 도입한다. 이용자가 제출한 신고와 신고 이력을 확인할 수 있는 새로운 기능입니다. 인스타그램 ‘설정’→ ‘도움말’→ ‘지원 요청’을 누르면 기존에 신고한 콘텐츠의 상태에 대한 자세한 정보를 확인할 수 있다. ’옵션 더 보기‘를 누르면 신고한 콘텐츠의 사용자 일시 차단 및 차단, 제한, 팔로우 취소 등의 추천 조치도 확인할 수 있다. 신고한 콘텐츠에 대한 인스타그램의 조치에 동의하지 않을 경우, ‘검토 요청’을 통해 재검토도 가능하다.
일정 기간 동안 정해진 횟수 이상으로 유해 게시물을 올리는 계정을 즉시 삭제하도록 하는 ‘스트라이크 아웃’ 모델 기능도 있다. 유해 게시물을 반복적으로 올렸다 내리거나, 전체 게시물 수가 방대해 상대적으로 유해 게시물 비율이 낮다는 이유로 비활성화 하지 못했던 계정들을 더욱 강력하게 단속할 수 있을 것으로 보인다.
이밖에 인스타그램을 사용하는 자녀를 둔 부모님을 위한 가이드라인도 마련됐다. 이용자 스스로 인스타그램 앱 이용 시간을 관리할 수 있도록 ‘대시보드’, ‘일일 알림 설정’, ‘푸시 알림 해제’ 총 세 가지 기능을 도입했다.
‘대시보드’ 기능은 지난 한 주 동안의 일일 소비시간과 평균 소비시간 등 앱에서 보낸 시간을 직접 확인할 수 있도록 지원한다. ‘일일 알림 설정’은 사용자들이 일일 목표 시간을 설정하고, 이를 초과할 경우 알림을 통해 앱에서 소비하는 시간을 스스로 제한하고 관리할 수 있도록 돕는다. ‘푸시 알림 해제’는 생활에 집중할 수 있도록 휴대 기기에서 푸시 알림을 일정 시간 동안 무음으로 설정한다.
[서울=뉴시스]
인스타그램을 비롯한 많은 소셜미디어 플랫폼이 생활의 필수적인 존재가 된 가운데 유명인, 일반인을 가리지 않고 악성 댓글이나 DM 등으로 온라인 괴롭힘도 일어나고 있다.
특히, 코로나19로 인해 SNS 활동이 늘어나 ‘사이버불링(온라인 괴롭힘)’에 대한 인식 제고와 적절한 방지에 대한 논의와 더불어, 건강하고 행복하게 소셜 미디어를 사용해야하는 필요성이 더 커지고 있다.
인스타그램은 15일 사이버불링을 방지하는 AI 댓글관리, 자동신고 등 다양한 기능을 소개했다.
우선 가이드라인과 이용 약관을 따르지 않으면 콘텐츠가 삭제되거나 계정이 비활성화되는 등의 제재를 받을 수 있다. 가이드라인 위반 사항을 발견하는 경우, 기본 신고 기능을 사용하여 신고가 가능하다. 인스타그램 글로벌 담당팀이 이를 검토하고 가이드라인을 준수하지 않는 콘텐츠를 최대한 빠르게 삭제하기 위해 노력하고 있다. 인스타그램은 전 세계 5개 지역에서 24시간 연중무휴로 신고를 처리한다.
또 이용자가 사진과 동영상에 댓글을 달 수 있는 사람을 관리할 수 있다. 앱 설정의 ‘댓글 관리’ 섹션에서 모든 사람, 팔로우하는 사람 및 그 사람의 팔로워, 팔로우하는 사람만 또는 팔로워 등의 옵션을 선택하여 댓글을 허용할 수 있다. 댓글 필터링 기능으로 괴롭힘을 비롯한 불쾌한 댓글을 자동으로 숨길 수도 있다
아울러 인스타그램은 이번달 중 AI 기술에 기반한 ‘댓글 경고’ 기능을 도입한다. 부정적인 댓글을 작성해 게시하기 전에 댓글 작성자에게 해당 댓글이 상대에게 공격적 받아들여질 수 있다는 점을 미리 알려 스스로 댓글을 취소하거나 더 순화된 표현을 사용하도록 돕는다는 취지다.
인스타그램 관계자는 “이 기능을 통해 이용자들이 다른 계정을 팔로우하는 상태에서도 원하지 않는 소통을 제한해 사이버 불링에 대응할 수 있도록 지원할 예정”이라고 말했다.
또 ‘머신 러닝’에 기반해 인스타그램에 올라오는 사진과 글 중 비방을 목적으로 하는 게시물이나 악성 콘텐츠를 찾아 자동으로 신고, 라이브 방송 중에도 비방용, 악성 댓글 등 부적절한 댓글을 자동으로 필터링 해 예상치 못하게 발생할 수 있는 사이버 불링을 예방한다.
지원요청 기능도 도입한다. 이용자가 제출한 신고와 신고 이력을 확인할 수 있는 새로운 기능입니다. 인스타그램 ‘설정’→ ‘도움말’→ ‘지원 요청’을 누르면 기존에 신고한 콘텐츠의 상태에 대한 자세한 정보를 확인할 수 있다. ’옵션 더 보기‘를 누르면 신고한 콘텐츠의 사용자 일시 차단 및 차단, 제한, 팔로우 취소 등의 추천 조치도 확인할 수 있다. 신고한 콘텐츠에 대한 인스타그램의 조치에 동의하지 않을 경우, ‘검토 요청’을 통해 재검토도 가능하다.
일정 기간 동안 정해진 횟수 이상으로 유해 게시물을 올리는 계정을 즉시 삭제하도록 하는 ‘스트라이크 아웃’ 모델 기능도 있다. 유해 게시물을 반복적으로 올렸다 내리거나, 전체 게시물 수가 방대해 상대적으로 유해 게시물 비율이 낮다는 이유로 비활성화 하지 못했던 계정들을 더욱 강력하게 단속할 수 있을 것으로 보인다.
이밖에 인스타그램을 사용하는 자녀를 둔 부모님을 위한 가이드라인도 마련됐다. 이용자 스스로 인스타그램 앱 이용 시간을 관리할 수 있도록 ‘대시보드’, ‘일일 알림 설정’, ‘푸시 알림 해제’ 총 세 가지 기능을 도입했다.
‘대시보드’ 기능은 지난 한 주 동안의 일일 소비시간과 평균 소비시간 등 앱에서 보낸 시간을 직접 확인할 수 있도록 지원한다. ‘일일 알림 설정’은 사용자들이 일일 목표 시간을 설정하고, 이를 초과할 경우 알림을 통해 앱에서 소비하는 시간을 스스로 제한하고 관리할 수 있도록 돕는다. ‘푸시 알림 해제’는 생활에 집중할 수 있도록 휴대 기기에서 푸시 알림을 일정 시간 동안 무음으로 설정한다.
[서울=뉴시스]
비즈N 탑기사
- 김숙 “내 건물서 거주+월세 수입 생활이 로망”
- “20억 받으면서 봉사라고?”…홍명보 감독 발언에 누리꾼 ‘부글’
- 세계적 유명 모델이 왜 삼성역·편의점에…“사랑해요 서울” 인증샷
- “사람 치아 나왔다” 5000원짜리 고기 월병 먹던 中여성 ‘경악’
- “모자로 안가려지네”…박보영, 청순한 미모로 힐링 여행
- 엄마 편의점 간 사이 ‘탕’…차에 둔 권총 만진 8살 사망
- 8시간 후 자수한 음주 뺑소니 가해자…한문철 “괘씸죄 적용해야”
- 교보생명, 광화문글판 가을편 새단장…윤동주 ‘자화상’
- 힐러리 “내가 못 깬 유리천장, 해리스가 깨뜨릴 것”
- ‘SNS 적극 활동’ 고현정…“너무 자주 올려 지겨우시실까봐 걱정”
- “롯데百의 미래 ‘타임빌라스’에 7조 투자, 국내 쇼핑몰 1위로”
- 합병 앞둔 SK이노, 계열사 사장 3명 교체… 기술형 리더 발탁
- ‘美 공급망 재편 수혜’ 인도 주식에 올해 국내 자금 1.2조 몰려
- 재건축 단지에 현황용적률 인정… 사업성 증가 효과[부동산 빨간펜]
- AI 뛰어든 참치회사 “GPT 활용해 모든 배 만선 만들 겁니다”
- HBM의 질주… SK하이닉스 영업익 7조 사상 최대
- “고위험 환자 타비 시술 거뜬… 최초 기록도 다수”[베스트 메디컬센터]
- 데이미언 허스트와 호두과자가 만났을 때[여행스케치]
- 65억원 포기하고 애플 나와 독립… “모든 기기에 AI칩 넣는다”[허진석의 톡톡 스타트업]
- “SNS가 아이들 망친다”…노르웨이, 15세 미만 금지 추진