행안부 산하 한국재난안전산업협회 국가인프라지능화위원회(공성진 위원장)는 딥페이크 방지를 위한 'AI 딥페이크 모니터링 서비스'를 적극 추진중이라고 밝혔다.

딥페이크는 과거 단순 합성물에서 조금 더 발전하여 인공지능을 통해 영상물에 나오는 얼굴, 표정, 목소리 등을 인식하고, 여기에 다른 얼굴을 합성하여 상당히 실제와 유사하도록 영상물을 합성할 수 있는 기술을 통칭한다.

딥페이크 방지법 제정으로 이런 영상물을 제작하거나 유포하면 무거운 처벌을 받게 되며, 간혹 개인 소장을 위해 다운로드를 한 경우에도 자신의 클라우드 드라이브 공간에 자동으로 백업되고, 업로드 되어 유포에 해당되는 경우가 있다. 이런 피해를 받지 않으려면 딥페이크 관련 음란물을 최대한 멀리 해야 한다.

실제로 딥페이크 영상물의 제작 유포자가 아니고 단순 유포자인 경우에도 성인인 경우 보다 학생이 미성년자라도 가중 처벌을 받을 수 있어 각별한 주의가 필요하다고 전문가들은 말한다.

이를 예방하기 위해 가동되는 AI 딥페이크 모니터링 서비스는 학생이나 미성년자, 학생 보호자에게 딥페이크 방지 모니터링 교육을 제공하고 인증 ID를 발급한다. 학생은 딥페이크 방지가 필요한 경우에 딥페이크 방지 인증 ID를 사용하면 학부모는 AI 딥페이크 방지 모니터링 서비스로부터 예방 정보를 제공받게 된다.

최근, 정부는 해외의 클라우드 대란에 대응하기 위해 국내의 클라우드를 기반으로 하는 주요 서비스를 다중화하도록 긴급 권고했다. 보다 안정적인 다채널의 클라우드 서비스가 필요했기 때문이다. 이 권고를 통해 2025년도 통신재난 관리 기본계획 수립 지침안으로 클라우드 다중화가 정책적으로 의결됐다.

클라우드 기반 주요 서비스의 다중화에 대한 권고는 주무부처인 과기정통부와 행안부의 재난안전산업 예방 분야 뿐만 아니라 2025년부터 새롭게 추진하는 국가 인프라지능화 분야 등과 같은 교육청의 AI 맞춤형 미래 교육 서비스에도 필수적으로 적용된다.

특히 내년부터 각 지역 교육청별로 실시되는 인공지능 AI교육의 문제점인 딥페이크에 대한 해결책은 지금까지 마땅한 방법이 없는 상황이었다. 이 문제를 예방하기 위해 국가인프라지능화위원회는 전국 시·도교육청과 함께 이와 관련된 과제를 해결해 나가고 있다.

국가인프라지능화위원회는 가정에 학생이나 미성년자, 학생 보호자에게 딥페이크 방지 모니터링 교육을 제공하고, 인증 ID를 제공하는 서비스를 본격적으로 실시한다. 또한, 학교 교사에게도 딥페이크 방지 교육을 전국적으로 제공한다.

국가인프라지능화위원회 김상용 부위원장은 “지역별 딥페이크 방지 모니터링 인증원 및 관련 클라우드 컴퓨팅 센터를 설립하고, 이를 통해 각 지역, 정부, 단체, 협회 등과 융합 서비스 협력을 추진하고 있다. 또한 AI 딥페이크 방지 모니터링 공공정보 서비스를 해외에도 수출할 계획”이라고 밝혔다.

최용석 동아닷컴 기자 duck8@donga.com