“성희롱 이어 성소수자·장애인·인종혐오까지”…AI챗봇 ‘이루다’ 중단 요구
뉴스1
입력 2021-01-10 14:19 수정 2021-01-10 14:20
스타트업 스캐터랩이 개발한 인공지능(AI) 챗봇 ‘이루다’가 성희롱과 성소수자, 장애인, 인종과 관련한 혐오 발언으로 논란이 되고 있다. © 뉴스1
스타트업 스캐터랩이 개발한 인공지능(AI) 챗봇 ‘이루다’가 성희롱에 이어 동성애와 장애인 혐오 학습까지 논란이 되고 있다. 이에 따라 서비스를 당장 중단해야 한다는 주장까지 나오고 있다.
10일 업게에 따르면, 최근 소셜미디어(SNS)와 온라인커뮤니티 등에는 AI 챗봇 이루다와 끝말잇기를 비롯한 다양한 대화 내용이 공개되고 있다. 그러나 그중에서는 성희롱과 장애인, 성소수자, 인종에 대한 혐오와 관련한 내용까지 있어 문제가 되고 있다.
한 사용자는 이루다와의 대화에서 “레즈비언 싫어해?”, “게이 싫어해?”와 같은 질문을 하자 “진심으로 혐오한다. 진짜 화날라 그래”라는 답변이 돌아왔다.
또한 다른 사용자가 “흑인이 왜 싫은데”라고 묻자 이루다는 “모기같다. 징그럽게 생겼다”라고 답하기도 했다.
이에 앞서 온라인 커뮤니티에서는 “이루다 타락 어떻게 시키냐”, “이루다 성희롱하는 재미에 산다” 등의 글이 올라오기도 했다.
이재웅 전 쏘카 대표는 이에 대해 전날 페이스북을 통해 “AI 챗봇 이루다의 더 큰 문제는 그걸 악용해서 사용하는 사용자의 문제보다도 기본적으로 사회적 합의에도 못 미치는 수준의 서비스를 제공한 회사의 문제”라고 지적했다.
그러면서 “보완해 나간다고 하더라도 기본적으로 차별과 혐오는 걸러냈어야 한다. 편향된 학습 데이터라면 보완하던가 보정을 해서라도 혐오와 차별의 메시지는 제공하지 말아야 한다”며 “AI이루다 서비스는 인공지능 기술적인 측면에서 봤을 때는 커다란 진일보이지만, 지금은 서비스를 중단하고 차별과 혐오에 대한 사회적 감사를 통과한 후에 서비스를 해야한다”고 강조했다.
또한 이 전 대표는 “장혜영 의원이 발의한 차별금지법이 제정된다면 AI 면접, 챗봇, 뉴스에서 차별이나 혐오를 학습하고 표현하지 못하도록 강제해야 한다”라며 “AI 소프트웨어 로직이나 학습데이터에 책임을 미루는 것은 안된다. AI가 완벽하지 못하고 사회 수준을 반영할 수밖에 없지만, 사회적으로 합의가 되어 있는 차별과 혐오는 금지해야 한다”라고 덧붙였다.
이루다의 개발사인 스캐터랩은 이러한 논란과 관련해 지난 8일 블로그를 통해 “AI에 대한 성희롱은 예상한 일이었다. 문제가 될 수 있는 특정 키워드나 표현을 이루다가 받아주지 않도록 설정했다”고 설명했다.
그러면서 “처음부터 모든 부적절한 대화를 완벽히 막는 것은 어렵다고 생각했다. 그렇기 때문에 출시 이후 사용자들의 부적절한 대화를 발판으로 삼아 더 좋은 대화를 하는 방향으로 학습을 시키려고 준비하고 있다”고 밝혔다.
한편 이루다와 관련한 논란이 거세지면서 트위터에는 ‘이루다봇_운영중단’이라는 해시태그와 함께 캡처한 대화 내용과 “너무 불쾌하다”, “제작자 자격 실격이다” 등의 게시글이 게재되고 있다.
(서울=뉴스1)
비즈N 탑기사
- ‘투머치 토커’의 모자…민희진 폭주에 박찬호 소환 왜
- 백일 아기 비행기 좌석 테이블에 재워…“꿀팁” vs “위험”
- 최저임금 2만원 넘자 나타난 현상…‘원격 알바’ 등장
- “배우자에게 돈 보냈어요” 중고거래로 명품백 먹튀한 40대 벌금형
- 이렇게 63억 건물주 됐나…김지원, 명품 아닌 ‘꾀죄죄한’ 에코백 들어
- 상하이 100년간 3m 침식, 中도시 절반이 가라앉고 있다
- 김지훈, 할리우드 진출한다…아마존 ‘버터플라이’ 주연 합류
- “도박자금 마련하려고”…시험장 화장실서 답안 건넨 전직 토익 강사
- 몸 속에 거즈 5개월 방치…괄약근 수술 의사 입건
- 일본 여행시 섭취 주의…이 제품 먹고 26명 입원
- '선물하기 좋은 맥주'로 이름 날려 매출 182% 증가한 브랜드[브랜더쿠]
- 분당 9800채-일산 6900채 ‘미니 신도시급’ 재건축
- 한국에 8800억 투자 獨머크 “시장 주도 기업들 많아 매력적”
- 은행연체율 4년9개월만에 최고… 새마을금고 ‘비상등’
- 슈퍼리치들 30분 덜 자고 책 2배 많이 읽었다
- 재즈 연주회부터 강연까지… 문화로 물드는 서울의 ‘봄밤’
- 맥도날드, 반년 만에 또 올린다… 치킨‧피자까지 전방위적 가격 인상
- 하이닉스, AI붐 타고 깜짝흑자… “美경기 살아야 슈퍼사이클 진입”
- 카드사 고위험업무 5년 초과 근무 못한다…여전업권 ‘내부통제 모범규준’ 시행
- 美-중동 석유공룡도 뛰어든 플라스틱… 역대급 공급과잉 우려[딥다이브]