개인정보 무단이용 의혹까지… AI 챗봇의 퇴출

‘이루다’ 운영사, 서비스 잠정 중단
당초 성희롱성 발언 유도 논란… 장애인 혐오 학습 등 논쟁 가열
특정인 실명-주소-계좌도 노출
정부, 개발과정 법위반 여부 조사

인공지능(AI) 윤리 논란을 일으킨 AI 챗봇 서비스 ‘이루다’가 잠정 중단됐다. 서비스가 시작된 지 19일 만이다. 운영사가 챗봇 개발 과정에서 개인정보를 무단으로 이용했다는 의혹까지 나와 정부 당국의 조사가 시작될 것으로 전망된다.

이루다 운영사인 스캐터랩은 11일 “부족한 점을 집중 보완할 수 있도록 서비스 개선 기간을 거쳐 다시 찾아뵙겠다”며 AI 챗봇 이루다 서비스를 잠정 중단한다고 밝혔다. 스캐터랩은 “특정 소수집단에 차별적 발언 사례가 생긴 것을 사과한다”고 밝혔다. 개인정보 활용에 대해서는 “이용자와 충분히 소통하지 못했다. 개인을 특정할 수 있는 정보는 유출되지 않았다”고 해명했다.

이루다는 지난해 12월 23일 시작된 AI 챗봇 서비스다. 개발사인 스캐터랩은 2011년 김종윤 대표가 설립한 스타트업으로 2012년 ‘텍스트앳’과 2016년 ‘연애의 과학’ 등 AI 대화 분석 서비스를 내놓으며 온라인에서 이름을 알렸다.

이루다 논란은 일부 이용자들이 챗봇 이루다를 상대로 성희롱 대화를 유도했다는 사실이 알려지면서 시작됐다. 20대 여성으로 설정된 이루다를 성적 대상으로 취급하며 성희롱 발언을 한 대화가 일부 온라인 커뮤니티에서 퍼졌다. 이후 이루다가 동성애와 장애인 등에 대한 혐오를 학습해 이용자에게 말했다는 지적이 나오면서 논쟁이 가열됐다. 성적 소수자나 임산부에 대해 “진짜 싫다, 혐오스럽다”고 하거나 흑인에 대해 “징그럽게 생겼다” “흑인은 오바마급 아니면 싫어” 등의 대답을 한 대화가 캡처돼 온라인에 퍼졌다.

이루다 개발 과정에서 개인정보 관련 법규를 위반했다는 의혹도 불거졌다. 스캐터랩은 카카오톡 대화를 분석해 유료로 연애 조언을 해 주는 ‘연애의 과학’ 서비스를 제공했다. 이 과정에서 확보한 이용자 대화 약 100억 건을 기반으로 이루다를 개발했다. 이루다 일부 이용자는 “연애의 과학에 입력한 카카오톡 대화에서 개인정보가 삭제되지 않은 채 AI 학습이 이뤄진 것으로 보인다”고 주장했다. 특정인의 실명으로 보이는 이름이 나오거나 집 주소, 계좌번호 등이 이루다 대화에서 발견됐다는 지적이 나왔기 때문이다.

연애의 과학 이용자들은 약관에 ‘입력 정보가 신규 서비스 개발에 활용될 수 있다’는 정도의 고지만 받았을 뿐 구체적으로 어떻게 쓰이는지 알지 못했다며 문제를 제기했다. 카톡은 2명이 나눈 것인데, 연애의 과학은 2명 중 1명의 동의만 받고 양쪽의 카톡 대화를 모두 수집했으므로 부적절하다는 지적도 있다. 일부 이용자들은 집단 소송을 하겠다며 오픈 채팅방을 개설하기도 했다.

논란이 불거지면서 국무총리 소속 개인정보보호위원회는 스캐터랩의 개인정보보호법 위반 여부를 조사해 위법 사항이 발견되면 조처할 방침이다. 한국인공지능윤리협회는 “이루다는 AI 윤리 가이드라인을 지키지 못하고 출시됐다. 이를 확인해 적용하고 개선한 후 재출시해야 한다”는 성명을 발표했다.

업계 관계자 사이에서는 찬반 논란이 뜨겁다. 포털사이트 다음 창업자인 이재웅 전 쏘카 대표는 페이스북을 통해 “사회적 합의에 못 미치는 수준의 서비스를 제공한 회사가 문제”라고 비판의 목소리를 냈다. 반면 프로그램에 불과한 AI에 사회적 윤리 잣대를 엄격하게 들이대는 건 지나치다는 지적도 있다. 남궁훈 카카오게임즈 대표는 “현 세대에 분명히 현존하는 혐오와 차별이 노출됐을 뿐이다. AI가 반성해야 하는 것이 아니라 현 사회가 반성을 해야 한다”고 말했다.


이건혁 기자 gun@donga.com