36개국 150개 기업 전문가 선언
“인공지능 이용한 자율살상 무기는 핵-생화학무기와는 완전히 달라
세계의 리더들, 가이드라인 정해야”

‘법칙 1. 로봇은 인간을 다치게 해서는 안 되며 행동하지 않음으로써 위험에 처한 인간을 방관해서도 안 된다. 법칙 2. 법칙 1에 위배되지 않는 한 로봇은 인간의 명령에 복종해야 한다.’

로봇과 함께 살아가는 인간 사회의 모습을 그린 공상과학(SF) 영화 ‘아이, 로봇’(2004년)에 등장하는 ‘로봇의 법칙’일부다. 유명 SF 작가 아이작 아시모프가 1950년 세운 로봇의 원칙을 차용했다. 2035년을 배경으로 한 이 영화는 미래 로봇에 대한 인간의 기대감과 두려움을 함께 보여줬다.

기술은 생각했던 것보다 훨씬 빠르게 발전했다. 로봇에 관한 법칙이 영화의 배경이 된 시기보다 17년 일찍 선언된 것이다. 전 세계 36개국 150개 기업 2400명 이상의 인공지능(AI) 연구자들은 18일 스웨덴 스톡홀름에서 열린 ‘2018 국제 인공지능 협력 회의(IJCAI)’에서 ‘인간을 식별하고 공격하는 무기를 만드는 데 참여하지 않겠다’고 선언했다.

책임 있는 기술 개발을 위해 결성된 단체 ‘미래의 삶 연구소(Future of Life Institute)’는 전 세계 2400여 명의 연구자가 이 같은 내용의 동의서에 서명했다고 밝혔다. 이 동의서에는 구글 딥마인드 바둑 프로그램 ‘알파고’ 개발자 데미스 허사비스, 전기자동차 업체 ‘테슬라’와 민간 우주업체 ‘스페이스X’의 최고경영자(CEO) 일론 머스크 등 정보기술(IT) 업계의 유명 CEO들과 엔지니어들이 서명했다.

이들은 공개 선언서에서 “AI는 이미 군사 시스템에서 더 많은 역할을 할 준비가 끝났다”며 세계 리더들이 AI 기술 사용에 대한 가이드라인을 제시할 시점이 됐다고 촉구했다. 또 “AI를 이용한 자율살상무기는 핵이나 생화학무기와 완전히 다른 특성을 갖는다. 일단 한쪽이 이를 도입하면 전 세계가 끝없는 군비 경쟁으로 치닫게 될 것”이라고 우려했다.

AI 기술이 무기 제작에 사용돼서는 안 된다는 연구자들의 목소리가 나온 것은 처음이 아니다. 지난해 AI와 로봇 전문가 100여 명은 유엔에 ‘AI 무기가 제3의 전쟁을 불러올 것’이라는 내용의 공개서한을 보냈다.

자율살상무기를 개발하고 있다는 의혹이 불거져 기업이나 국가기관이 연구를 중단한 사례도 있다. 지난해 4월 구글 직원 3000여 명은 구글이 미 국방부와 협력해 진행하는 ‘메이븐 프로젝트’가 공격용 AI 드론 개발로 이어질 수 있다는 논란이 일자 순다르 피차이 CEO에게 서한을 보내 연구를 중단시켰다. 한국의 KAIST도 한 차례 홍역을 치렀다. 올해 4월엔 KAIST가 한화그룹 계열사인 한화시스템과 국방인공지능 연구센터를 열자 세계 로봇학자들이 ‘자율살상무기를 개발하는 것 아니냐’며 KAIST에 ‘연구 보이콧’을 선언했다. 이 논란은 KAIST가 “연구센터는 방위산업과 관련한 물류 시스템 개발에 활용될 것”이라고 해명한 끝에야 잠잠해졌다.

모든 전문가들이 ‘AI 디스토피아론’을 주장하는 것은 아니다. 마크 저커버그 페이스북 CEO는 대표적인 AI 낙관론자다. 저커버그는 지난해 “기술은 지금까지 항상 좋은 곳에도, 나쁜 곳에도 사용돼 왔다. 어떤 일이 일어날지 미리 생각할 필요가 없다”며 AI의 발전 속도에 제동을 걸려는 이들을 비판했다. 마이크로소프트 창업자 빌 게이츠도 AI 낙관론을 펴고 있다.

전채은 기자 chan2@donga.com