스탠퍼드대 “눈으로 본 것도 못 믿는다…AI가 100년 신뢰 흔들어”
한채연 기자
입력 2026-11-11 12:53 수정 2026-11-11 16:15
뉴시스생성형 인공지능(AI)의 확산으로 사진과 영상, 음성 기록에 대한 100년간의 신뢰가 흔들리고 있다는 경고가 나왔다. AI가 만든 가짜 콘텐츠가 범죄와 허위정보 유포에 악용되면서 언론과 사법제도, 민주주의에 대한 불신도 커지고 있다.
미국 스탠퍼드대 인간중심AI연구소(HAI)는 10일(현지 시간) 발표한 ‘AI, 주류로 자리 잡다: 스케일링 시대와 생성형 AI의 부상’ 보고서에서 사진과 영상, 음성 기록을 사실의 증거로 믿어 온 100년간의 통념이 무너졌다고 진단했다. 연구진은 “눈으로 본 것을 더 이상 믿을 수 없다”며 AI가 만든 콘텐츠와 실제 기록을 구별하기 어려워지고 있다고 지적했다. 이번 보고서는 AI가 인류에 미치는 영향을 100년에 걸쳐 살펴보는 ‘AI 100년 연구(AI100)’ 프로젝트의 일환으로 2016년과 2021년에 이어 세 번째로 발간됐다.
보고서에 따르면 딥페이크 성적 이미지와 영상은 2023년부터 2025년까지 1600% 증가했다. AI로 타인의 목소리를 복제해 돈을 가로채거나 아동 성착취물을 만드는 범죄도 벌어지고 있다. 선거에서 유권자를 속이는 데도 AI가 이용됐다. 2024년 미국 뉴햄프셔주 민주당 대선 경선을 앞두고 당시 조 바이든 대통령의 목소리를 흉내 낸 AI 자동전화가 유권자들에게 투표하지 말라고 권유하는 사건이 발생했다.
AI 기술의 발전 속도와 사회적 파장은 5년 전 연구진의 예상을 뛰어넘었다. 2021년 보고서는 AI가 추론 능력을 갖추기 어려울 것으로 내다봤지만 챗GPT 등 거대언어모델(LLM)의 등장으로 전망이 빗나갔다. 마이클 울드리지 영국 옥스퍼드대 교수는 “챗GPT 같은 거대언어모델의 성공과 이 기술이 확산되는 속도를 누구도 예상하지 못했다”고 말했다.
한채연 기자 chaezip@donga.com













