“AI가 만든 답변 탐지”…구글 콘텐츠 추적 기술 하반기 공개
뉴스1
입력 2024-05-22 16:50 수정 2024-05-22 16:50
![](https://dimg.donga.com/wps/ECONOMY/IMAGE/2024/05/22/125058993.3.jpg)
구글이 올여름 인공지능(AI)이 생성한 콘텐츠를 감지하는 도구를 공개한다. AI 기술의 안전성을 보완하기 위한 조치다. AI는 고도로 발달하고 있지만 인간이 만든 콘텐츠와 구분도 쉬워질 것으로 보인다.
22일 정보기술(IT) 업계에 따르면 구글은 3분기 중 AI가 만든 콘텐츠를 확인할 수 있는 ‘신스(synth) ID 디텍터(detector)’를 공개할 계획이다.
구글의 AI 모델 ‘제미나이’에서 얻은 답변을 신스ID에 입력하면 “이 콘텐츠는 제미나이에 의해 생성됐습니다”라는 확인 문구가 나온다.
제미나이가 답변을 생성할 때 사람의 눈에는 보이지 않는 ‘워터마크’를 삽입하는 방식으로 추적이 가능하다.
해당 기술은 다른 AI 기업들도 사용할 수 있도록 오픈 소스로 공개할 방침이다.
구글 관계자는 “책임감 있는 AI 접근 방식으로 봐달라”면서 “아직 기술이 완벽하지는 않지만, AI 윤리의 초석이 될 거라고 본다”고 말했다.
이달 초 오픈AI도 자사 이미지 생성 AI인 ‘달리’를 사용해 만든 이미지를 감지할 수 있는 도구를 공개한 바 있다. 네이버(035420)도 관련 기술을 개발 중이다.
이날 과학기술정보통신부 주도로 국내외 AI 기업 14곳이 참여한 ‘서울 AI 기업 서약’에도 AI기업의 책임과 안전한 AI 사용 문제가 주요하게 다뤄졌다.
서약식에서 이종호 과학기술정보통신부 장관은 “서울 AI 기업 서약은 국내외 기술 기업과 함께 AI 책임 개발, 이익 공유를 위해 기업이 추구할 방향을 담은 자발적 약속”이라면서 “워터마크 등 AI 생성 콘텐츠를 식별할 수 있도록 조치하고, 국제 표준 개발을 위한 협력을 강화할 것”이라고 말했다.
(서울=뉴스1)
비즈N 탑기사
- “헌혈은 나와의 약속”…빈혈에도 피 나누는 사람들
- 배달 치킨 먹으려다가 깜짝…“똥파리가 같이 튀겨졌어요”
- ‘말벌 개체 증가’ 쏘임 사고 잇따라…올해 광주·전남 13건
- “칭챙총”…박명수, 인도여행 중 인종차별 당했다
- ‘콧수염 기른 69세 김구’ 사진 첫 공개
- “정은아 오물풍선 그만 날려!”…춤추며 북한 놀린 방글라 유튜버
- 폐차장서 번호판 ‘슬쩍’…중고 외제차에 붙여 판매한 불법체류자들
- 유치원 앞 “담배 연기 싫어요” 바닥엔 꽁초 가득…타버린 ‘동심’
- 강남 한복판에 “벗고 노는 셔츠룸” “여대생 250명 출근”
- 국민 10명 중 9명 “현재 대한민국이 기후위기 직면”
- 서울 집값 오름폭 커져…수도권 아파트 거래량 3년 만에 최다
- ‘HBM 슈퍼乙’로 뜨는 한미반도체, 주가 504% 점프
- 하반기 경기 회복 지속…반도체·조선 ‘맑음’
- 中반도체 더 옥죄는 美 “칩스법 수혜 기업, 中장비 수입 금지”
- [단독]신협 연체율, 지난달말 6%대 후반 치솟아… 금감원, 검사 착수
- 인도 증시, ‘노동력-내수’ 업고 무서운 질주… 中과 격차 더 커졌다
- “673조원 우크라 재건 잡아라” 한국기업들 본격 사업 채비
- 고려아연, 서린상사 경영권 확보… 75년 동업 영풍과 갈라서기
- 통신요금 연체 37만명, 채무조정 신청땐 원금 90%까지 감면
- 金사과 이어 金배…배 1개 6500원 ‘역대 최고치’