“GPT, 옆구리가 아픈데 어느 병원에 가야 할까”

오픈AI, 건강관리 서비스 출시
거짓응답으로 ‘AI환각’ 우려도

챗GPT 건강. 오픈AI 제공

오픈AI가 건강에 초점을 맞춘 인공지능(AI) 서비스 ‘챗GPT 건강(헬스)’을 출시했다. 식단 관리, 운동 조언은 물론이고 장기적인 건강 관리에 필요한 답변을 하는 서비스다. 회사는 “매주 2억3000만 명이 챗GPT에 건강에 대한 질문을 한다”며 챗GPT 건강 서비스를 통해 이용자의 생활 전반을 관리하는 ‘슈퍼 비서’가 되겠다는 의지를 드러냈다.

7일(현지 시간) 오픈AI는 챗GPT 건강 서비스를 출시하고 체험단을 통해 서비스에 대한 피드백을 받은 후 수주 뒤 전체 사용자에게 공개할 계획이라고 밝혔다. 서비스 개발에는 지난 2년간 60개국에서 활동하는 의사 260명 이상이 참여했으며, 이들은 30개 주요 건강 영역에서 60만 차례 이상의 모델 응답에 피드백을 제공한 것으로 알려졌다.

회사는 건강 데이터가 민감 데이터인 만큼 기존 챗GPT 서비스와 따로 분리해 관리되며, 이용자는 언제든 건강 관련 데이터를 확인하고 삭제할 수 있다고 밝혔다. 사용자가 입력한 건강 정보는 오픈AI의 AI 모델 학습에 사용하지 않을 계획이다. 피지 시모 오픈AI 애플리케이션 부문 최고경영자(CEO)는 “챗GPT 건강은 의료 분야의 기존 문제, 비용 및 접근성의 장벽, 의사들의 과도한 예약, 진료의 연속성 부족 등에 대한 해결책이 될 것”이라고 했다.

다만 의료 분야에서 ‘AI 환각(거짓을 사실처럼 말하는 현상)’이 문제점으로 지적되고 있는 만큼 출시 이후 안전성 검증이 필요하다는 목소리도 나온다. 글로벌 AI 싱크탱크 ‘올어바웃 AI’가 주요 AI 모델의 환각률을 조사한 결과 의료 정보의 경우 15.6%였다. 10개 질문 중 1.5개는 거짓으로 답한다는 것이다. 또 해당 조사에 따르면 최신 모델일수록 환각률이 높아지는 것으로 확인됐다.



최지원 기자 jwchoi@donga.com