불법 영상 콕 집어 삭제… AI가 ‘n번방’의 눈물 닦아줄까
고재원 동아사이언스 기자
입력 2020-04-06 03:00 수정 2020-04-06 03:00
여성을 협박해 성 착취물을 찍게 하고 이를 인터넷 메신저 ‘텔레그램’에 공유해 부당이득을 취한 ‘n번방’ 사건 파장이 커지고 있다. 확인된 피해자가 74명에 달하고 절반 이상이 중학생 등 미성년자였다는 사실이 밝혀지며 사회적 분노가 커지고 있다. 가해자에 대한 철저한 수사와 처벌 못지않게, 씻을 수 없는 상처를 입은 피해자들의 영상이 더 이상 유포되지 않도록 막는 기술이 절실해졌다.
여성가족부 산하 한국여성인권진흥원은 2018년 4월부터 성범죄 불법 촬영물 삭제를 지원하는 ‘디지털 성범죄 피해자 지원센터’를 운영 중이다. 피해자가 센터에 신고하면 촬영물이 게시된 웹사이트나 플랫폼은 센터가 파악해 직접 삭제를 요청하는 방식이다. 센터는 현재 n번방 피해자 40명의 영상물 삭제를 지원하고 있다.
하지만 이런 방식으로는 불법 촬영물 유포를 막기 어렵다. 인터넷의 특성상 불법 촬영물이 여러 플랫폼과 웹사이트에서 걷잡을 수 없이 퍼져 나가는데 이를 삭제하려면 직접 확인하고 요청하는 데 시간이 소요되기 때문이다.
이남경 한국전자통신연구원(ETRI) 미디어연구본부 책임연구원은 “인력에 의존해 불법 촬영물 유포를 막는 것은 거의 불가능하다”며 “인공지능(AI)을 활용한 기술로 대체할 수 있다”고 말했다. 과학기술정보통신부와 여성가족부는 지난해 7월 AI를 적용한 ‘불법 촬영물 삭제 지원 시스템’을 시험 적용한 뒤 11월부터 활용하고 있다.
ETRI가 개발한 이 시스템은 피해자가 신고한 불법 촬영물에서 이미지를 추출한다. 추출된 이미지의 특성을 분석해 웹하드 사이트에 등록된 영상물 중 불법 촬영물과 유사한 영상물을 AI가 자동으로 선별하고 수집한다. 지난해 하반기(7∼12월) 42개 웹하드 사이트에 대한 검색 기능을 확보했다. 사람이 직접 영상물을 골라내지 않아도 24시간 자동 검색이 가능하다. 다만, 찾아낸 불법 촬영물을 페이스북 등 플랫폼 사업자에게 신고하는 것은 사람이 해야 한다.
해외에서는 불법 촬영물 유포를 막기 위해 일찌감치 AI 기술을 활용하고 있다. 페이스북은 지난해 3월 AI를 이용해 디지털 성범죄물의 선제적 차단에 나선다고 밝혔다. 기존에는 피해자가 먼저 사진이나 영상을 발견해 신고해야 페이스북이 이를 분석한 후 차단하는 방식이었다. 이와 달리 페이스북이 지난해 도입한 AI 기술은 피해자를 포함한 누군가가 불법 촬영물을 신고하지 않아도 알몸 노출 상태인 사진이나 영상을 미리 검열한다.
마이크로소프트는 AI 기술이 보편화되기 전인 2009년 ‘포토DNA’라는 기술을 개발했다. 포토DNA는 불법 촬영물에서 특정한 디지털 정보를 뽑아내 만든 정보다. 손가락에서 지문을 채취하는 것처럼 불법 촬영물에서 특정한 디지털 정보를 뽑아내는 것이다. 그런 뒤 이 정보를 온라인상에 존재하는 다른 촬영물과 대조해 불법 촬영물을 식별한다. 2016년 12월 페이스북과 트위터, 구글도 이 기술을 사용하겠다는 계획을 발표했다. 마이크로소프트는 2018년 9월부터 포토DNA 기술을 무료로 제공하고 있다.
불법 촬영물 유포를 막기 위한 아이디어들도 구체화하고 있다. 지난해 과기정통부는 ‘디지털 성범죄 피해 방지 아이디어 및 R&D 기획 공모전’을 진행했다. 당시 AI 기술 외에 3차원(3D) 신체 모델링 기술을 더해 얼굴 분간이 힘든 불법 성범죄 영상을 걸러내는 아이디어가 제시됐다. 과기정통부 관계자는 “지난해 하반기 신규 연구개발 과제로 기획해 3년간 총 20억 원 규모로 추진 중”이라며 “현재는 개발 초기 단계”라고 밝혔다.
고재원 동아사이언스 기자 jawon1212@donga.com
여성가족부 산하 한국여성인권진흥원은 2018년 4월부터 성범죄 불법 촬영물 삭제를 지원하는 ‘디지털 성범죄 피해자 지원센터’를 운영 중이다. 피해자가 센터에 신고하면 촬영물이 게시된 웹사이트나 플랫폼은 센터가 파악해 직접 삭제를 요청하는 방식이다. 센터는 현재 n번방 피해자 40명의 영상물 삭제를 지원하고 있다.
하지만 이런 방식으로는 불법 촬영물 유포를 막기 어렵다. 인터넷의 특성상 불법 촬영물이 여러 플랫폼과 웹사이트에서 걷잡을 수 없이 퍼져 나가는데 이를 삭제하려면 직접 확인하고 요청하는 데 시간이 소요되기 때문이다.
이남경 한국전자통신연구원(ETRI) 미디어연구본부 책임연구원은 “인력에 의존해 불법 촬영물 유포를 막는 것은 거의 불가능하다”며 “인공지능(AI)을 활용한 기술로 대체할 수 있다”고 말했다. 과학기술정보통신부와 여성가족부는 지난해 7월 AI를 적용한 ‘불법 촬영물 삭제 지원 시스템’을 시험 적용한 뒤 11월부터 활용하고 있다.
ETRI가 개발한 이 시스템은 피해자가 신고한 불법 촬영물에서 이미지를 추출한다. 추출된 이미지의 특성을 분석해 웹하드 사이트에 등록된 영상물 중 불법 촬영물과 유사한 영상물을 AI가 자동으로 선별하고 수집한다. 지난해 하반기(7∼12월) 42개 웹하드 사이트에 대한 검색 기능을 확보했다. 사람이 직접 영상물을 골라내지 않아도 24시간 자동 검색이 가능하다. 다만, 찾아낸 불법 촬영물을 페이스북 등 플랫폼 사업자에게 신고하는 것은 사람이 해야 한다.
해외에서는 불법 촬영물 유포를 막기 위해 일찌감치 AI 기술을 활용하고 있다. 페이스북은 지난해 3월 AI를 이용해 디지털 성범죄물의 선제적 차단에 나선다고 밝혔다. 기존에는 피해자가 먼저 사진이나 영상을 발견해 신고해야 페이스북이 이를 분석한 후 차단하는 방식이었다. 이와 달리 페이스북이 지난해 도입한 AI 기술은 피해자를 포함한 누군가가 불법 촬영물을 신고하지 않아도 알몸 노출 상태인 사진이나 영상을 미리 검열한다.
마이크로소프트는 AI 기술이 보편화되기 전인 2009년 ‘포토DNA’라는 기술을 개발했다. 포토DNA는 불법 촬영물에서 특정한 디지털 정보를 뽑아내 만든 정보다. 손가락에서 지문을 채취하는 것처럼 불법 촬영물에서 특정한 디지털 정보를 뽑아내는 것이다. 그런 뒤 이 정보를 온라인상에 존재하는 다른 촬영물과 대조해 불법 촬영물을 식별한다. 2016년 12월 페이스북과 트위터, 구글도 이 기술을 사용하겠다는 계획을 발표했다. 마이크로소프트는 2018년 9월부터 포토DNA 기술을 무료로 제공하고 있다.
불법 촬영물 유포를 막기 위한 아이디어들도 구체화하고 있다. 지난해 과기정통부는 ‘디지털 성범죄 피해 방지 아이디어 및 R&D 기획 공모전’을 진행했다. 당시 AI 기술 외에 3차원(3D) 신체 모델링 기술을 더해 얼굴 분간이 힘든 불법 성범죄 영상을 걸러내는 아이디어가 제시됐다. 과기정통부 관계자는 “지난해 하반기 신규 연구개발 과제로 기획해 3년간 총 20억 원 규모로 추진 중”이라며 “현재는 개발 초기 단계”라고 밝혔다.
고재원 동아사이언스 기자 jawon1212@donga.com
비즈N 탑기사
- 김숙 “내 건물서 거주+월세 수입 생활이 로망”
- “20억 받으면서 봉사라고?”…홍명보 감독 발언에 누리꾼 ‘부글’
- 세계적 유명 모델이 왜 삼성역·편의점에…“사랑해요 서울” 인증샷
- “사람 치아 나왔다” 5000원짜리 고기 월병 먹던 中여성 ‘경악’
- “모자로 안가려지네”…박보영, 청순한 미모로 힐링 여행
- 엄마 편의점 간 사이 ‘탕’…차에 둔 권총 만진 8살 사망
- 8시간 후 자수한 음주 뺑소니 가해자…한문철 “괘씸죄 적용해야”
- 교보생명, 광화문글판 가을편 새단장…윤동주 ‘자화상’
- 힐러리 “내가 못 깬 유리천장, 해리스가 깨뜨릴 것”
- ‘SNS 적극 활동’ 고현정…“너무 자주 올려 지겨우시실까봐 걱정”
- HBM의 질주… SK하이닉스 영업익 7조 사상 최대
- 재건축 단지에 현황용적률 인정… 사업성 증가 효과[부동산 빨간펜]
- “롯데百의 미래 ‘타임빌라스’에 7조 투자, 국내 쇼핑몰 1위로”
- 합병 앞둔 SK이노, 계열사 사장 3명 교체… 기술형 리더 발탁
- AI 뛰어든 참치회사 “GPT 활용해 모든 배 만선 만들 겁니다”
- ‘美 공급망 재편 수혜’ 인도 주식에 올해 국내 자금 1.2조 몰려
- “고위험 환자 타비 시술 거뜬… 최초 기록도 다수”[베스트 메디컬센터]
- “아흔 일곱에도 스매싱…79년 테니스 친 덕에 아직 건강해요”
- 차박, 차크닉에 최적화된 전기차 유틸리티 모드
- “두바이 여행한다면 체크”…두바이 피트니스 챌린지