생성형 AI 사용한 사진·영상에 잘 보이게 표시해야
트럼프 등장하는 가짜 영상 선거활동에 사용되기도


구글은 정치인이 자사 플랫폼에 선거용 광고를 게재할 때 생성형 인공지능(AI)을 사용한 경우 반드시 이를 표기해야 한다는 정책을 발표했다.

미국 워싱턴포스트에 따르면 6일(현지시간) 구글은 현행 정치 광고 정책을 수정해 AI가 생성한 이미지나 동영상을 사용하는 경우 이를 반드시 명시해야 한다고 밝혔다.

구체적으로는 사람이 직접 말하거나 행동하지 않은 것을 한 것처럼 보이게 하거나 실제로 발생하지 않은 장면을 합성이나 조작을 통해 묘사한 경우, 해당 광고에는 AI 기술이 사용됐다고 눈에 띄게 표시해야 한다.

구글의 AI 챗봇 ‘바드’나 오픈AI의 이미지 생성 프로그램 ‘Dall-e’와 같은 생성형 AI는 실제 카메라로 촬영한 것과 구별하기 힘든 매우 사실적인 사진을 만들어 낼 수 있을 정도로 성능이 향상됐다.

이에 따라 여러 정치인은 생성형 AI를 사용해 만들어진 ‘가짜 뉴스’가 유권자를 속이거나 자신이 직접 하지 않은 말이나 행동을 한 것처럼 보이게 만들 수 있다는 우려를 제기했다.

온라인 광고 영역에서 막대한 점유율을 차지하고 있는 구글과 메타(Meta)는 수년 동안 온라인에 난무하는 가짜 뉴스를 막아야 한다는 압박을 받아왔다.

워싱턴포스트는 이미 가짜 사진과 동영상이 선거 광고에 등장하기 시작했다며 사례를 소개했다.

공화당 대선 주자 론 디샌티스 플로리다주지사의 선거 캠프는 지난 6월 도널드 트럼프 미국 전 대통령과 앤서니 파우치 전 국립알레르기·전염병연구소(NIAID) 소장이 서로 포옹하는 모습이 담긴 동영상을 공개했는데, 이는 AI를 사용한 가짜 영상인 것으로 판명 났다.

지난달에는 폴란드의 한 야당이 광고에 사용한 총리의 목소리가 AI로 만든 가짜임을 시인한 바 있다.

이러한 구글의 방침은 내년 11월 미국 대통령선거를 비롯해 앞으로 행해질 다양한 선거에 악용될 AI 생성 딥페이크나 가짜 뉴스를 방지하기 위한 것으로 해석된다.

구글의 변경된 정책은 광고에만 적용되며 유튜브에 올라오는 일반 콘텐츠에는 적용되지 않는다. 신규 광고 정책은 오는 11월부터 시행된다.

[서울=뉴시스]