구글이 올여름 인공지능(AI)이 생성한 콘텐츠를 감지하는 도구를 공개한다. AI 기술의 안전성을 보완하기 위한 조치다. AI는 고도로 발달하고 있지만 인간이 만든 콘텐츠와 구분도 쉬워질 것으로 보인다.

22일 정보기술(IT) 업계에 따르면 구글은 3분기 중 AI가 만든 콘텐츠를 확인할 수 있는 ‘신스(synth) ID 디텍터(detector)’를 공개할 계획이다.

구글의 AI 모델 ‘제미나이’에서 얻은 답변을 신스ID에 입력하면 “이 콘텐츠는 제미나이에 의해 생성됐습니다”라는 확인 문구가 나온다.

제미나이가 답변을 생성할 때 사람의 눈에는 보이지 않는 ‘워터마크’를 삽입하는 방식으로 추적이 가능하다.

해당 기술은 다른 AI 기업들도 사용할 수 있도록 오픈 소스로 공개할 방침이다.

구글 관계자는 “책임감 있는 AI 접근 방식으로 봐달라”면서 “아직 기술이 완벽하지는 않지만, AI 윤리의 초석이 될 거라고 본다”고 말했다.

이달 초 오픈AI도 자사 이미지 생성 AI인 ‘달리’를 사용해 만든 이미지를 감지할 수 있는 도구를 공개한 바 있다. 네이버(035420)도 관련 기술을 개발 중이다.

이날 과학기술정보통신부 주도로 국내외 AI 기업 14곳이 참여한 ‘서울 AI 기업 서약’에도 AI기업의 책임과 안전한 AI 사용 문제가 주요하게 다뤄졌다.

서약식에서 이종호 과학기술정보통신부 장관은 “서울 AI 기업 서약은 국내외 기술 기업과 함께 AI 책임 개발, 이익 공유를 위해 기업이 추구할 방향을 담은 자발적 약속”이라면서 “워터마크 등 AI 생성 콘텐츠를 식별할 수 있도록 조치하고, 국제 표준 개발을 위한 협력을 강화할 것”이라고 말했다.

(서울=뉴스1)