논문도 척척 ‘챗GPT’에 교육계 비상… “AI 글 식별기술 개발중”

데이터 딥러닝… 숙제 등에 악용
뉴욕시, 공립학교 접근 차단 조치
“인간 보조 유용한 수단” 긍정론에
일부 “모든 문서 신뢰 깨질 우려”

에세이를 써달라는 이용자의 요구에 챗GPT가 순식간에 긴 글을 써내려갔다. 챗GPT를 이용해 에세이와 논문을 쓰는 경우가 늘자 뉴욕시는 5일(현지 시간) 공립 중고등학교 학생들이 챗GPT를 이용하지 못하도록 교내 네트워크를 통한 챗GPT 접근을 차단했다. AP 뉴시스

전문가 수준의 글 생성 능력을 가진 챗GPT(Chat GPT)가 공개된 지 약 두 달이 지나며 각 분야에서 뜨거운 논쟁이 벌어지고 있다. 특히 개인의 지적 능력과 독창성이 중요한 교육, 연구 분야에 파장이 크다. 논쟁이 이어지며 챗GPT를 개발한 오픈AI는 사람이 직접 쓴 글과 챗GPT가 작성한 글을 구별할 수 있는 기술 개발에도 착수했다.

● 사람만큼 뛰어난 AI에 교육 연구 현장서 논란

국내 학계에서는 챗GPT에 대한 갑론을박이 벌어지고 있다. 챗GPT가 기존 챗봇과 달리 방대한 양의 전문 지식을 담은 에세이와 논문을 순식간에 써내려가는 능력을 갖춘 게 확인되며 AI 활용에 대한 새로운 윤리 기준을 만들어야 한다는 목소리가 나왔다.

권석준 성균관대 화학공학과 교수는 자신의 페이스북을 통해 “시험은 모든 자원을 활용할 수 있다”면서도 “챗GPT류의 인공지능 기반 문서 혹은 코드 생성 서비스도 당연히 활용 가능하지만 생성된 답안을 자신이 쓴 것인 양 제출하는 경우 시차를 두고 검사해 치팅으로 간주할 것”이라고 밝혔다.

반면 이경전 경희대 경영학·빅데이터응용학과교수는 올해부터 오픈북, 오픈인터넷 시험을 보는 것처럼 ‘오픈 챗GPT 시험’을 허용하겠다는 생각이라고 했다. 이 교수는 “챗GPT는 인간이 필요로 하는 정보를 빠르게 효율적으로 집약해 찾아주고 연구개발(R&D) 과정에서 아이디어를 제공한다는 점에서 인간의 능력을 보조하는 훌륭한 ‘조수’ 역할을 할 수 있다”며 “챗GPT가 99%를 쓰고 본인이 1%를 더한 논문이라도 그 결과가 인류에 영향을 줄 만한 내용이면 그게 의미있는 것”이라고 말했다.

이덕환 서강대 명예교수는 “이미 기술이 너무 발전해 버렸기 때문에 기술적인 것 외에 기술의 부작용을 막을 수 있는 제도적인 측면에서의 대안이 필요하다”고 했다.

미국에선 이미 챗GPT를 시험이나 과제에 이용하는 사례로 몸살을 앓고 있다. 미국 뉴욕시는 이달부터 공립학교 내에서 챗GPT의 접근을 차단하겠다고 발표했다. AI 학회인 국제머신러닝학회(ICML)도 “LLM(거대언어모델)에 의해 전적으로 생성된 텍스트를 금지한다”며 AI 도구를 사용한 논문 작성을 제한하는 지침을 발표했다. 뉴욕타임스에 따르면 미국 조지워싱턴대는 AI를 이용할 수 없는 구술시험 및 그룹 평가를 늘리고 있다. 미국 텍사스대에선 AI에 관련 자료가 희소한 초기 셰익스피어 작품을 수업 교재로 선정한 사례도 있다.

● 오픈AI, “챗GPT가 쓴 문장 구별하는 기술 내놓을 것”

챗GPT가 만들어내는 문장들은 실제 논문이나 보고서에 쓰일 만큼 수준이 높다. 미국 노스웨스턴대 연구진은 최근 논문 사전 게재 사이트인 ‘바이오아카이브(bioRxiv)’에 챗GPT로 작성한 의학 논문 초록이 표절 검사를 통과했으며 10편 중 3편가량은 전문가들도 가려내지 못했다고 밝혔다.

챗GPT의 등장으로 다른 사람이 만든 모든 문서를 신뢰하기 어려워지는 상황이 올 수 있다는 우려도 나온다. 대학교 과제부터 학업계획서, 회사 입사 시 필요한 자기소개서, 업무보고서, 논문까지 모든 문서에 검증 과정이 필요해질 수 있다는 얘기다.

이 같은 지적이 이어지는 데 대해 개발사인 오픈 AI는 챗GPT에서 생성된 텍스트를 식별하는 데 도움이 되는 기술을 개발 중이라고 밝혔다. 보안 전문 외신 테크크런치에 따르면 오픈AI와 객원 연구원인 스콧 에런슨 텍사스대 교수는 지난해 12월 챗GPT의 작업물에 워터마크 등 표시를 삽입하는 방법을 연구하고 있다. 문자나 단어를 일련의 토큰으로 변환해 챗GPT를 활용했을 때 이를 외부에서 알아볼 수 있는 서비스를 제공하기 위해서다.


남혜정 기자 namduck2@donga.com
최지원 기자 jwchoi@donga.com