메일·뉴스 등 앱 푸쉬 알림 등 AI가 요약
뉴스 내용 왜곡 빈번…국경없는 기자회 “기능 삭제해야” 주장


애플이 자체 인공지능(AI) 시스템을 통해 아이폰에 제공하고 있는 알림 요약 기능이 뉴스 내용을 왜곡하면서 논란이 일고 있다.

20일 미국 IT 매체 맥루머스에 따르면 국경 없는 기자회(RSF)는 애플이 출시한 애플 인텔리전스 알림 기능을 두고 “생성 AI 기능이 신뢰할 수 있는 저널리즘을 위협하고 있다”라며 해당 기능을 삭제할 것을 촉구했다.

앞서 애플은 최근 iOS 18.2 소프트웨어 업데이트를 통해 일부 국가에 애플 인텔리전스 알림 요약 기능을 출시했다. 애플의 자체 AI가 푸시 알림의 주요 세부 정보를 요약해 표시해주는 기능이다.

문제는 뉴스 매체의 보도 내용을 왜곡해 제목을 추출하거나 잘못된 출처를 제공하는 사례가 빈번하게 나타나고 있다는 점이다. 실제 최근 애플 인텔리전스는 영국 BBC 앱 뉴스 요약을 통해 , 유나이티드 헬스케어 CEO 브라이언 톰슨의 살인 혐의로 체포된 루이지 맨지오니가 자살했다는 알림을 띄웠다.

그러나 해당 보도는 루이지 맨지오니가 살인 혐의로 기소된 이후, 펜실베이니아 주립 교도소에 이감됐다는 내용이었다.

이에 BBC는 곧바로 애플에 항의했다. BBC 대변인은 성명에서 “BBC 뉴스는 세계에서 가장 신뢰받는 뉴스 미디어”라며 “우리의 청중이 우리 이름으로 게시된 모든 정보나 저널리즘을 신뢰할 수 있어야 하며, 여기에는 알림도 포함된다”고 밝혔다.

이러한 애플 AI 요약 오류는 이번이 처음이 아니다. 지난 11월 뉴욕타임즈는 국제형사재판소가 전쟁범죄 혐의 등으로 베냐민 네타냐후 이스라엘 총리에 대한 체포영장을 발부했다고 보도했다. 그런데 애플은 이 기사를 베냐민 네타냐후 총리가 체포됐다고 요약했다.

애플 인텔리전스는 뉴스 뿐만 아니라 이메일, 메시지 등 문맥을 제대로 파악하지 못한 알림을 제공해 다수 이용자들이 혼란을 겪고 있다고 외신들은 전했다.

다른 생성형 AI의 요약 서비스에서도 오류가 빈번하다. 오픈AI의 검색 챗봇 ‘챗GPT 서치’는 뉴스 매체의 보도 내용을 왜곡하거나 잘못된 출처를 제공하는 사례가 나타나고 있다. 콜롬비아대학교 디지털 저널리즘 연구소가 최근 발표한 보고서에 따르면 20개 매체에서 200개의 인용문을 선택해 챗GPT에 출처를 식별하도록 요청한 결과 많은 경우 잘못된 출처를 제공하거나 허구의 정보를 섞어 제시했다.

[서울=뉴시스]