자율주행차 사고, 누구에게 책임?

24일 서울 서초구 서울법원종합청사에서 ‘4차 산업혁명과 사법의 과제’를 주제로 열린 심포지엄에서 권문식 현대자동차 부회장이 기조 강연을 하고 있다. 이날 심포지엄에서는 자율주행차 등 인공지능 기술에 기반을 둔 각종 산업을 발전시키기 위해 정비해야 하는 사회적, 법적 문제들에 대한 강연과 토론이 벌어졌다. 안철민 기자 acm08@donga.com

“인공지능(AI) 개발이 진정 모든 인류에게 도움이 되도록 하려면 ‘AI 퍼스트’ ‘기계 퍼스트’ 정책이 마련되도록 머리를 맞대야 합니다.”

‘인류를 위해 기계를 우선하는 정책이 시행돼야 한다.’

얼핏 들으면 모순인 주장이 나온 건 24일 서울 서초구 서울법원종합청사에서 열린 ‘4차 산업혁명과 사법의 과제’ 심포지엄에서다.

기조 강연자로 나선 김상헌 전 네이버 대표는 기계 퍼스트가 필요한 분야로 신호등을 예로 들었다. AI가 가장 많이 들어간 대표적 기기는 자율주행자동차다. 자율주행차가 도로에서 안정적으로 주행하려면 모든 신호등을 인지해야 한다. 하지만 현재 도로 위 신호등마다 신호의 개수가 다르다. 크기도 제각각이다. 정지선 바로 위에 달린 신호등은 자율주행차에 달린 카메라가 인지하기 힘들다. 자율주행차 개발 등 4차 산업혁명을 제대로 발전시키려면 정비해야 할 사회 인프라가 한둘이 아니라는 의미다.

이날 심포지엄은 이런 인식에서 비롯됐다. 특히 AI를 활용한 다양한 제품과 서비스가 시행됐을 때 발생할 수 있는 법적 분쟁 등 사법적인 영역에서 한국의 준비 정도는 미진하다는 지적이 많다. 이날 심포지엄을 대법원 소속 연구기관인 사법정책연구원이 준비한 이유다. 사법정책연구원과 함께 서울대 공익산업법센터, 한국지식재산협회 등이 행사를 공동 주최했다. 이원우 서울대 공익산업법센터장은 “전 세계 139개 나라를 대상으로 4차 산업혁명 준비 정도를 조사한 결과 한국은 25위를 차지했는데 법률시스템 부문에서는 62위에 그쳤다”고 꼬집었다.

첫 번째 기조 강연자인 권문식 현대자동차 연구개발본부장(부회장)은 “자율주행차가 확산되려면 소비자, 정책, 산업 등 여러 분야에서 동시에 논의가 이뤄져야 한다”고 말했다. 권 부회장은 “자율주행차를 타는 소비자의 경우 사고가 났을 때 과연 나의 책임은 어디까지인지에 대해 궁금할 것”이라고 했다. 실제로 자율주행차 사고는 여러 논란을 내포할 수밖에 없다.

기조 강연에 이어 진행된 주제 토론에서도 첫 번째 주제는 ‘자율주행차’였다. 이중기 홍익대 로봇윤리와 법제연구센터장은 자율주행 기술이 오류 없이 작동한 상황에서 사고가 발생했다면 누구에게 책임을 물어야 하는지에 대한 질문을 던졌다. 예를 들어 자율주행 소프트웨어가 ‘보행자 보호’를 가장 우선시 하도록 설정됐다면 보행자를 치는 것을 막기 위해 다른 차와 충돌할 수도 있다. 이 경우 운전자와 제조사 누구에게도 책임을 묻기 힘든 상황이 발생한다. 이 센터장은 “AI의 판단이 원인이라면 이에 대한 책임을 추궁할 수 있도록 법적 기준이 마련돼야 한다”고 말했다.

이날 심포지엄에서는 자율주행차뿐만 아니라 AI가 확산되면서 발생할 수 있는 논란의 예시들이 제시됐다. 기조 강연자인 이언 가천대 의대 길병원 부원장은 AI를 활용한 환자 진료가 이뤄졌을 때 발생할 수 있는 문제들을 제시했다. 의료계에서는 진단부터 치료까지 모든 과정을 AI가 관할하는 시대가 머지않았다고 보고 있다. 이 부원장은 AI 의사가 환자의 생명을 살릴 가능성을 높이기 위해 시력을 희생해야 한다는 판단을 내리고 이를 시행한다면 어떻게 해야 할지 물었다. 참석자들은 4차 산업혁명에 필수적으로 동반되는 이런 문제들에 대비해야 한다고 한목소리를 냈다.

한편 이날 심포지엄에는 정의선 현대차 부회장도 참석했다. 기조 강연과 ‘자율주행차’ 토론을 지켜본 정 부회장은 “사법부에서 기회를 만들어줘 좋은 강연을 들었다”고 말했다.

한우신 기자 hanwshin@donga.com