“AI 킬러 로봇 안 만들겠다” 알파고 아버지-머스크 등 2400명 서명
전채은 기자
입력 2018-07-20 03:00 수정 2018-07-20 03:00
36개국 150개 기업 전문가 선언
“인공지능 이용한 자율살상 무기는 핵-생화학무기와는 완전히 달라
세계의 리더들, 가이드라인 정해야”
로봇과 함께 살아가는 인간 사회의 모습을 그린 공상과학(SF) 영화 ‘아이, 로봇’(2004년)에 등장하는 ‘로봇의 법칙’일부다. 유명 SF 작가 아이작 아시모프가 1950년 세운 로봇의 원칙을 차용했다. 2035년을 배경으로 한 이 영화는 미래 로봇에 대한 인간의 기대감과 두려움을 함께 보여줬다.
기술은 생각했던 것보다 훨씬 빠르게 발전했다. 로봇에 관한 법칙이 영화의 배경이 된 시기보다 17년 일찍 선언된 것이다. 전 세계 36개국 150개 기업 2400명 이상의 인공지능(AI) 연구자들은 18일 스웨덴 스톡홀름에서 열린 ‘2018 국제 인공지능 협력 회의(IJCAI)’에서 ‘인간을 식별하고 공격하는 무기를 만드는 데 참여하지 않겠다’고 선언했다.
책임 있는 기술 개발을 위해 결성된 단체 ‘미래의 삶 연구소(Future of Life Institute)’는 전 세계 2400여 명의 연구자가 이 같은 내용의 동의서에 서명했다고 밝혔다. 이 동의서에는 구글 딥마인드 바둑 프로그램 ‘알파고’ 개발자 데미스 허사비스, 전기자동차 업체 ‘테슬라’와 민간 우주업체 ‘스페이스X’의 최고경영자(CEO) 일론 머스크 등 정보기술(IT) 업계의 유명 CEO들과 엔지니어들이 서명했다.
이들은 공개 선언서에서 “AI는 이미 군사 시스템에서 더 많은 역할을 할 준비가 끝났다”며 세계 리더들이 AI 기술 사용에 대한 가이드라인을 제시할 시점이 됐다고 촉구했다. 또 “AI를 이용한 자율살상무기는 핵이나 생화학무기와 완전히 다른 특성을 갖는다. 일단 한쪽이 이를 도입하면 전 세계가 끝없는 군비 경쟁으로 치닫게 될 것”이라고 우려했다.
AI 기술이 무기 제작에 사용돼서는 안 된다는 연구자들의 목소리가 나온 것은 처음이 아니다. 지난해 AI와 로봇 전문가 100여 명은 유엔에 ‘AI 무기가 제3의 전쟁을 불러올 것’이라는 내용의 공개서한을 보냈다.
자율살상무기를 개발하고 있다는 의혹이 불거져 기업이나 국가기관이 연구를 중단한 사례도 있다. 지난해 4월 구글 직원 3000여 명은 구글이 미 국방부와 협력해 진행하는 ‘메이븐 프로젝트’가 공격용 AI 드론 개발로 이어질 수 있다는 논란이 일자 순다르 피차이 CEO에게 서한을 보내 연구를 중단시켰다. 한국의 KAIST도 한 차례 홍역을 치렀다. 올해 4월엔 KAIST가 한화그룹 계열사인 한화시스템과 국방인공지능 연구센터를 열자 세계 로봇학자들이 ‘자율살상무기를 개발하는 것 아니냐’며 KAIST에 ‘연구 보이콧’을 선언했다. 이 논란은 KAIST가 “연구센터는 방위산업과 관련한 물류 시스템 개발에 활용될 것”이라고 해명한 끝에야 잠잠해졌다.
모든 전문가들이 ‘AI 디스토피아론’을 주장하는 것은 아니다. 마크 저커버그 페이스북 CEO는 대표적인 AI 낙관론자다. 저커버그는 지난해 “기술은 지금까지 항상 좋은 곳에도, 나쁜 곳에도 사용돼 왔다. 어떤 일이 일어날지 미리 생각할 필요가 없다”며 AI의 발전 속도에 제동을 걸려는 이들을 비판했다. 마이크로소프트 창업자 빌 게이츠도 AI 낙관론을 펴고 있다.
전채은 기자 chan2@donga.com
“인공지능 이용한 자율살상 무기는 핵-생화학무기와는 완전히 달라
세계의 리더들, 가이드라인 정해야”
인공지능(AI) 기술로 자율살상무기를 만드는 것에 반대하는 단체 ‘치명적인 자율살상무기 금지(Ban Lethal
Autonomous Weapons)’가 제작한 자율살상무기 시뮬레이션 영상의 일부. 한 남성(오른쪽)이 차량 뒷문을 열고 리모컨을
조작해 AI 드론들을 하늘로 날리고 있다. Ban Lethal Autonomous Weapons 홈페이지 동영상 캡처
‘법칙 1. 로봇은 인간을 다치게 해서는 안 되며 행동하지 않음으로써 위험에 처한 인간을 방관해서도 안 된다. 법칙 2. 법칙 1에 위배되지 않는 한 로봇은 인간의 명령에 복종해야 한다.’로봇과 함께 살아가는 인간 사회의 모습을 그린 공상과학(SF) 영화 ‘아이, 로봇’(2004년)에 등장하는 ‘로봇의 법칙’일부다. 유명 SF 작가 아이작 아시모프가 1950년 세운 로봇의 원칙을 차용했다. 2035년을 배경으로 한 이 영화는 미래 로봇에 대한 인간의 기대감과 두려움을 함께 보여줬다.
기술은 생각했던 것보다 훨씬 빠르게 발전했다. 로봇에 관한 법칙이 영화의 배경이 된 시기보다 17년 일찍 선언된 것이다. 전 세계 36개국 150개 기업 2400명 이상의 인공지능(AI) 연구자들은 18일 스웨덴 스톡홀름에서 열린 ‘2018 국제 인공지능 협력 회의(IJCAI)’에서 ‘인간을 식별하고 공격하는 무기를 만드는 데 참여하지 않겠다’고 선언했다.
책임 있는 기술 개발을 위해 결성된 단체 ‘미래의 삶 연구소(Future of Life Institute)’는 전 세계 2400여 명의 연구자가 이 같은 내용의 동의서에 서명했다고 밝혔다. 이 동의서에는 구글 딥마인드 바둑 프로그램 ‘알파고’ 개발자 데미스 허사비스, 전기자동차 업체 ‘테슬라’와 민간 우주업체 ‘스페이스X’의 최고경영자(CEO) 일론 머스크 등 정보기술(IT) 업계의 유명 CEO들과 엔지니어들이 서명했다.
이들은 공개 선언서에서 “AI는 이미 군사 시스템에서 더 많은 역할을 할 준비가 끝났다”며 세계 리더들이 AI 기술 사용에 대한 가이드라인을 제시할 시점이 됐다고 촉구했다. 또 “AI를 이용한 자율살상무기는 핵이나 생화학무기와 완전히 다른 특성을 갖는다. 일단 한쪽이 이를 도입하면 전 세계가 끝없는 군비 경쟁으로 치닫게 될 것”이라고 우려했다.
AI 기술이 무기 제작에 사용돼서는 안 된다는 연구자들의 목소리가 나온 것은 처음이 아니다. 지난해 AI와 로봇 전문가 100여 명은 유엔에 ‘AI 무기가 제3의 전쟁을 불러올 것’이라는 내용의 공개서한을 보냈다.
자율살상무기를 개발하고 있다는 의혹이 불거져 기업이나 국가기관이 연구를 중단한 사례도 있다. 지난해 4월 구글 직원 3000여 명은 구글이 미 국방부와 협력해 진행하는 ‘메이븐 프로젝트’가 공격용 AI 드론 개발로 이어질 수 있다는 논란이 일자 순다르 피차이 CEO에게 서한을 보내 연구를 중단시켰다. 한국의 KAIST도 한 차례 홍역을 치렀다. 올해 4월엔 KAIST가 한화그룹 계열사인 한화시스템과 국방인공지능 연구센터를 열자 세계 로봇학자들이 ‘자율살상무기를 개발하는 것 아니냐’며 KAIST에 ‘연구 보이콧’을 선언했다. 이 논란은 KAIST가 “연구센터는 방위산업과 관련한 물류 시스템 개발에 활용될 것”이라고 해명한 끝에야 잠잠해졌다.
모든 전문가들이 ‘AI 디스토피아론’을 주장하는 것은 아니다. 마크 저커버그 페이스북 CEO는 대표적인 AI 낙관론자다. 저커버그는 지난해 “기술은 지금까지 항상 좋은 곳에도, 나쁜 곳에도 사용돼 왔다. 어떤 일이 일어날지 미리 생각할 필요가 없다”며 AI의 발전 속도에 제동을 걸려는 이들을 비판했다. 마이크로소프트 창업자 빌 게이츠도 AI 낙관론을 펴고 있다.
전채은 기자 chan2@donga.com
비즈N 탑기사
- 김숙 “내 건물서 거주+월세 수입 생활이 로망”
- “20억 받으면서 봉사라고?”…홍명보 감독 발언에 누리꾼 ‘부글’
- 세계적 유명 모델이 왜 삼성역·편의점에…“사랑해요 서울” 인증샷
- “사람 치아 나왔다” 5000원짜리 고기 월병 먹던 中여성 ‘경악’
- “모자로 안가려지네”…박보영, 청순한 미모로 힐링 여행
- 엄마 편의점 간 사이 ‘탕’…차에 둔 권총 만진 8살 사망
- 8시간 후 자수한 음주 뺑소니 가해자…한문철 “괘씸죄 적용해야”
- 교보생명, 광화문글판 가을편 새단장…윤동주 ‘자화상’
- 힐러리 “내가 못 깬 유리천장, 해리스가 깨뜨릴 것”
- ‘SNS 적극 활동’ 고현정…“너무 자주 올려 지겨우시실까봐 걱정”
- [머니 컨설팅]금리 인하기, 상업용 부동산 투자 주목해야
- 금값, 올들어 33% 치솟아… 내년 3000달러 넘을 수도
- [단독]배달주문 30% 늘때 수수료 3배로 뛰어… “배달영업 포기”
- 주도주 없는 증시, ‘경영권 분쟁’이 테마주로… 급등락 주의보
- “두바이 여행한다면 체크”…두바이 피트니스 챌린지
- 청력 손실, 치매 외 파킨슨병과도 밀접…보청기 착용하면 위험 ‘뚝’
- “오후 5시 영업팀 회의실 예약해줘”…카카오, 사내 AI 비서 ‘버디’ 공개
- “20억 받으면서 봉사라고?”…홍명보 감독 발언에 누리꾼 ‘부글’
- 일상생활 마비 손목 증후군, 당일 수술로 잡는다!
- [고준석의 실전투자]경매 후 소멸하지 않는 후순위 가처분 꼼꼼히 살펴야