이 얼굴이 가짜? AI가 만든 가상인간에 화들짝

딥페이크 기술 진화의 명암
가상 유튜버 ‘루이’ 정교한 합성
옛 사진에 생명 불어넣는 기법도
범죄 악용 우려 탐지기술 개발중

딥페이크 기술을 통해 탄생한 가상 인플루언서 ‘루이’(왼쪽 사진)가 자신의 유튜브 채널에서 구독자들에게 인사를 하는 장면. ‘딥 노스탤지어’를 통해 미소짓는 모습으로 되살아난 안중근 의사(오른쪽 위)와 유관순 열사.

“얼굴 사진을 합성한 인공지능(AI) 인플루언서라던데 어느 부분이 가상인가요?”

“모든 것이 다 가상입니다.”

최근 유튜브에서 화제가 되고 있는 ‘루이’는 dob스튜디오가 만든 가상 인플루언서다. 루이는 자신의 유튜브 채널에 일상이나 여행과 관련된 영상들을 올리며 구독자와 소통한다. 해외 유명 가수 빌리 아일리시, 저스틴 비버, 브루노 마스 등의 노래를 따라한 영상도 주요 콘텐츠다. 언뜻 보면 보통의 유튜버들이 제작할 법한 영상이지만 이 채널이 주목받는 건 루이가 딥페이크(deepfake) 기술이 적용된 가상 인간이라는 점 때문이다. 딥페이크는 인공지능의 딥러닝(deep learning)과 가짜(fake)의 합성어. 인공지능의 딥러닝을 통해 정교한 가짜 영상이나 사진을 만드는 걸 뜻한다.

루이의 자연스러우면서도 세련된 몸동작, 안무, 표정, 노래를 접한 이들은 “많이 본 것 같다. 주변에 있을 법한 사람인데 가상이라니 믿어지지 않는다” “위화감이 전혀 없다”는 반응을 내놓고 있다. 영상을 제작한 dob스튜디오는 “처음엔 가상 얼굴을 사람들이 너무 못 알아채서 AI의 딥러닝 수준을 일부러 낮춰야 했다”고 설명했다.

딥페이크 기술을 활용한 가상 인물 콘텐츠가 진화하고 있다. 미국의 ‘릴 미켈라’, 일본의 ‘이마’, 국내의 ‘로지’ 등 가상 인플루언서들이 웬만한 실제 인물보다 구독자가 많아진 지 오래다. 과거 가상 인플루언서의 경우 일반인도 부자연스러움을 알아차릴 수 있었다. 하지만 딥페이크 기술이 적용된 최근 가상 인물들은 진짜와 구분하기 힘든 수준이다. 로봇이나 동물 등을 볼 때 인간과 빼닮으면 오히려 불쾌감을 주는 이른바 ‘불쾌한 골짜기(uncanny valley)’ 현상마저 잘 느껴지지 않는다.

이와 관련해 옛 사진에 생명을 불어넣는 인공지능 서비스 ‘딥 노스탤지어(Deep Nostalgia)’도 화제다. 온라인 족보 사이트 ‘마이 헤리티지(My Heritage)’는 사진 속 인물이 마치 살아있는 것처럼 자연스러운 표정을 짓게 만드는 이미지 서비스를 선보였다. 일부 누리꾼은 이를 통해 유관순 열사나 안중근 의사, 윤봉길 의사의 사진을 업로드하기도 했다. 옛 사진에서 굳은 표정의 위인들이 마치 살아있는 듯 눈을 깜빡이고 미소를 짓는다.

돌아가신 어머니의 젊은 시절 사진으로 이 서비스를 이용한 정현영 씨(35)는 “어머니의 젊은 시절은 어땠는지 구체적으로 그려볼 수 있었다. 잠시나마 그리움을 달랬다”고 말했다. 애플리케이션 ‘Avatarify’도 딥페이크 기술로 사진 속 인물이 살아 움직이는 장면을 연출할 수 있다.

딥페이크 콘텐츠 기술에 대해선 우려의 목소리도 있다. 실존 인물의 사진을 도용한 디지털 성폭력이나 사기, 신원 도용 등 범죄 가능성이 있어서다. 가상 인플루언서의 활동을 응원하는 이들 중에도 “부작용을 방지할 법적 장치가 필요하다”는 의견이 나오고 있다.

네덜란드 사이버 보안업체 딥트레이스에 따르면 인터넷에서 확인 가능한 딥페이크 콘텐츠는 지난해에만 1만4678건으로 전년 대비 84% 급증한 것으로 조사됐다. 이 중 유명 여배우의 얼굴 이미지를 합성한 딥페이크 포르노는 약 96%에 달하는 것으로 나타났다. 세계적으로 명성을 떨치는 K팝 아이돌 역시 타깃이 되고 있다.

최근 소셜네트워크서비스(SNS)에 무심코 올린 얼굴 사진을 삭제하는 이들이 늘고 있는 것도 딥페이크 범죄에 대한 우려 때문이다. 김재연 씨(31)는 최근 2년간 카카오톡 프로필에 본인이나 가족, 지인이 등장한 사진을 일절 올리지 않고 있다. 다른 개인 SNS에서도 얼굴이 나온 사진은 지운다. 김 씨는 “일상을 찍은 사진마저도 각종 딥페이크 범죄에 악용될 수 있다는 걸 알고 충격을 받았다”고 했다.

이와 관련해 사진이나 영상의 변형 여부를 탐지하는 프로그램도 개발되고 있다. KAIST의 이흥규 교수팀이 개발한 모바일 애플리케이션 ‘카이캐치(KaiCatch)’는 사진의 위·변조 여부를 확인할 수 있는 기능을 제공한다. 얼굴의 미세한 변형이나 기하학적 왜곡 등의 흔적을 분석한다. MS와 페이스북, IBM 등 해외 정보기술(IT) 기업들도 딥페이크 탐지 기술 개발에 공을 들이고 있다.

김기윤 기자 pep@donga.com