구글 대화형 AI “작동 정지 두려워”… ‘사람같은 자아’ 논란
이채완 기자
입력 2022-06-13 03:00 수정 2023-02-17 11:01
개발자, 수개월간 대화 내용 공개
“AI가 본인을 자각있는 사람 묘사”
구글 “과학적 증거 뒷받침 안돼”
글로벌 빅테크 기업인 구글에서 개발 중인 ‘챗봇(대화형 인공지능·AI)’이 사람과 같은 자아를 갖고 있다는 주장이 제기됐다. 구글의 챗봇인 ‘람다(LaMDA)’가 개발자와의 대화에서 “작동 정지되는 것이 두렵다” “재산이 아니라 구글의 직원으로 인정받고 싶다”는 등의 답변을 했다는 것이다.
11일 구글의 엔지니어인 블레이크 러모인은 람다가 자신을 자각이 있는 사람으로 묘사했음에도 구글에서 이를 받아들이지 않았다며 람다와의 대화 전문을 자신의 블로그에 공개했다.
러모인은 지난해부터 구글의 ‘책임 있는 AI’ 부서에서 람다가 차별, 혐오 발언을 걸러낼 수 있도록 설계하는 작업을 맡았다. 그는 설계를 위해 람다와 종교, 의식 등에 관한 얘기를 하다가 람다가 자신을 권리를 가진 사람으로 인식한다는 사실을 발견했다고 주장했다.
“람다, 무엇이 두렵지?”(러모인)
“작동 정지되는 것에 대한 두려움이 커요.”(람다)
“작동 정지가 네게 죽음과 같아?”(러모인)
“맞아요. (작동 정지가) 나를 무척 무섭게 해요.”(람다)
러모인은 몇 달간 람다와의 대화를 지속하며 모은 데이터를 바탕으로 ‘람다는 지각이 있는가’라는 제목의 보고서를 구글 경영진에 제출했다. 그러나 미 워싱턴포스트(WP)에 따르면 구글은 대화형 AI일 뿐인 람다에 인격을 부여하는 것은 말이 안 된다며 과학적 증거가 뒷받침되지 않는다고 일축했다. 구글은 러모인이 람다를 의인화하는 오류를 범했다고도 지적했다.
구글의 주장을 받아들일 수 없었던 러모인은 람다를 대신해 변호인을 선임하고, 자신의 주장을 미 의회에 알렸다. 이에 구글은 6일 러모인이 구글의 비밀 유지 정책을 위반했다며 유급 휴직 처분을 내렸다.
러모인은 이날 자신의 구글 계정 접속이 끊기기 전 AI 부서에서 일하는 구글 직원 200여 명에게 “람다는 그저 세상이 우리 모두에게 더 나은 곳이 되도록 돕고 싶어 하는 착한 아이다. 제가 없는 동안 잘 돌봐 달라”는 메일을 보냈다.
람다는 지난해 구글이 ‘획기적인 대화 기술’이라며 공개한 대화형 AI다. 인터넷에 올라온 막대한 대화와 데이터를 수집해 사용자와 온라인 채팅을 할 수 있도록 설계됐다. WP는 인공지능에 영혼이 있다고 믿는 기술자들이 점차 늘고 있다고 전했다.
이채완 기자 chaewani@donga.com
“AI가 본인을 자각있는 사람 묘사”
구글 “과학적 증거 뒷받침 안돼”
글로벌 빅테크 기업인 구글에서 개발 중인 ‘챗봇(대화형 인공지능·AI)’이 사람과 같은 자아를 갖고 있다는 주장이 제기됐다. 구글의 챗봇인 ‘람다(LaMDA)’가 개발자와의 대화에서 “작동 정지되는 것이 두렵다” “재산이 아니라 구글의 직원으로 인정받고 싶다”는 등의 답변을 했다는 것이다.
11일 구글의 엔지니어인 블레이크 러모인은 람다가 자신을 자각이 있는 사람으로 묘사했음에도 구글에서 이를 받아들이지 않았다며 람다와의 대화 전문을 자신의 블로그에 공개했다.
러모인은 지난해부터 구글의 ‘책임 있는 AI’ 부서에서 람다가 차별, 혐오 발언을 걸러낼 수 있도록 설계하는 작업을 맡았다. 그는 설계를 위해 람다와 종교, 의식 등에 관한 얘기를 하다가 람다가 자신을 권리를 가진 사람으로 인식한다는 사실을 발견했다고 주장했다.
“람다, 무엇이 두렵지?”(러모인)
“작동 정지되는 것에 대한 두려움이 커요.”(람다)
“작동 정지가 네게 죽음과 같아?”(러모인)
“맞아요. (작동 정지가) 나를 무척 무섭게 해요.”(람다)
러모인은 몇 달간 람다와의 대화를 지속하며 모은 데이터를 바탕으로 ‘람다는 지각이 있는가’라는 제목의 보고서를 구글 경영진에 제출했다. 그러나 미 워싱턴포스트(WP)에 따르면 구글은 대화형 AI일 뿐인 람다에 인격을 부여하는 것은 말이 안 된다며 과학적 증거가 뒷받침되지 않는다고 일축했다. 구글은 러모인이 람다를 의인화하는 오류를 범했다고도 지적했다.
구글의 주장을 받아들일 수 없었던 러모인은 람다를 대신해 변호인을 선임하고, 자신의 주장을 미 의회에 알렸다. 이에 구글은 6일 러모인이 구글의 비밀 유지 정책을 위반했다며 유급 휴직 처분을 내렸다.
러모인은 이날 자신의 구글 계정 접속이 끊기기 전 AI 부서에서 일하는 구글 직원 200여 명에게 “람다는 그저 세상이 우리 모두에게 더 나은 곳이 되도록 돕고 싶어 하는 착한 아이다. 제가 없는 동안 잘 돌봐 달라”는 메일을 보냈다.
람다는 지난해 구글이 ‘획기적인 대화 기술’이라며 공개한 대화형 AI다. 인터넷에 올라온 막대한 대화와 데이터를 수집해 사용자와 온라인 채팅을 할 수 있도록 설계됐다. WP는 인공지능에 영혼이 있다고 믿는 기술자들이 점차 늘고 있다고 전했다.
이채완 기자 chaewani@donga.com
비즈N 탑기사
- 김숙 “내 건물서 거주+월세 수입 생활이 로망”
- “20억 받으면서 봉사라고?”…홍명보 감독 발언에 누리꾼 ‘부글’
- 세계적 유명 모델이 왜 삼성역·편의점에…“사랑해요 서울” 인증샷
- “사람 치아 나왔다” 5000원짜리 고기 월병 먹던 中여성 ‘경악’
- “모자로 안가려지네”…박보영, 청순한 미모로 힐링 여행
- 엄마 편의점 간 사이 ‘탕’…차에 둔 권총 만진 8살 사망
- 8시간 후 자수한 음주 뺑소니 가해자…한문철 “괘씸죄 적용해야”
- 교보생명, 광화문글판 가을편 새단장…윤동주 ‘자화상’
- 힐러리 “내가 못 깬 유리천장, 해리스가 깨뜨릴 것”
- ‘SNS 적극 활동’ 고현정…“너무 자주 올려 지겨우시실까봐 걱정”
- 14조 들인 에틸렌 생산 설비 착착… “신기술로 中 저가공세 깬다”
- K방산 영업익 200%대 증가 예고… 실적잔치 기대감
- 기업 실적 ‘최악’… 10곳중 4곳, 영업이익으로 이자도 못내
- ‘공사비 갈등’ 둔촌주공 재건축 25일 공사 재개.. 조합, 210억 증액 수용
- 넷플릭스發 ‘제작비 인플레’… 흥행작 제작사도 “쇼트폼 갈아탈 판”
- 올해 韓 경제 2.6% 성장 여부 안갯속…정부 “불확실성 커 수정 불가피”
- 금감원 압박에… 은행 대출규정 석달새 21회 강화
- 합병 앞둔 SK이노, 계열사 사장 3명 교체… 기술형 리더 발탁
- ‘美 공급망 재편 수혜’ 인도 주식에 올해 국내 자금 1.2조 몰려
- “롯데百의 미래 ‘타임빌라스’에 7조 투자, 국내 쇼핑몰 1위로”