[DBR]AI에 과잉의존땐 ‘인간+AI’ 팀워크 걸림돌 될수도

하버드대 연구팀, 인간-AI 협업실험

인공지능(AI)과 인간의 협업이 급속도로 발전하면서 AI의 탁월한 정보 처리 능력과 인간의 직관적 통찰력으로 무장한 ‘인간+AI’ 팀이 인류가 당면한 각종 위기를 해결해줄 것이라는 믿음이 커지고 있다. 그러나 최근 연구에 따르면 인간이 AI의 판단에 과도하게 의존할 경우 둘의 협업 성과가 AI 단독 성과에 미치지 못할 수도 있는 것으로 나타났다. AI가 심각한 선택의 오류를 범할 때조차 과잉 의존이 나타나 인간 스스로 오류를 고치거나 더 나은 선택을 할 수 없어지기 때문이다.

최근 하버드대 연구팀은 미국 거주 성인 199명을 대상으로 ‘인간+AI’ 팀의 협업 성과를 확인하는 온라인 실험을 수행했다. 참가자는 요리 사진에 담긴 여러 재료를 보고 탄수화물 함량이 가장 높은 재료를 탄수화물 함량이 낮으면서 맛은 비슷한 재료로 대체하는 과업을 수행했다. 각 요리 사진에는 다른 재료보다 훨씬 많은 탄수화물을 함유한 재료가 의도적으로 포함됐으며, 참가자는 이 요리에서 제거할 재료와 이를 대체할 재료를 선택하는 임무를 받았다.

이 실험은 크게 세 가지 조건에서 진행됐다. 첫 번째는 AI의 지원이 없는 조건이었다. 참가자는 요리 이미지와 메뉴만 보고 재료를 스스로 선택했다. 두 번째는 사람이 AI의 지원을 받는 조건이었다. AI가 재료를 추천하고 부연 설명을 제공하는 전형적인 협업 방식이었다. 세 번째는 앞의 조건에 인지강제기능을 추가한 조건이었다. 인지강제기능이란 참가자들로 하여금 먼저 스스로 의사결정을 내리게 하는 등 인지적 활성화를 강제함으로써 AI에 대한 의존도를 낮추는 역할을 한다. 이 조건에서는 AI의 추천과 부연 설명이 사전에 주어지는 것이 아니라 참가자가 AI에 도움을 요청하거나 의사결정을 먼저 내린 후에야 제시된다.

실험 결과 AI 선택에 오류가 있었는지 여부는 구분하지 않고 전체적인 결과만을 분석했을 때 ‘인간+AI’ 협업 팀은 성과 개선 효과가 탁월했다. 정확한 재료로 대체하는 능력, 선택의 정확성, 탄수화물 감소율, 풍미의 유사성 등 모든 측면에서 AI 지원을 받지 않는 인간 단독 조건 참가자보다 점수가 1.5∼2배가량 앞섰다.

그러나 AI가 잘못된 재료를 추천하는 등 선택 오류를 범한 경우에는 완전히 다른 결과가 도출됐다. AI의 지원을 받았을 때, 오히려 인간이 혼자 임무를 수행할 때보다 선택의 정확성이 낮아졌으며 인지강제기능 조건에서도 같은 결과가 나왔다. 인지강제기능 조건에서는 참가자가 AI에 과잉 의존하는 경향이 완전히 제거되지는 않았지만 다소 줄어드는 데는 성공했다. 이러한 연구 결과 인간과 AI가 협업할 때 인상적인 성과 개선 효과는 대부분 AI 선택 오류가 없는 경우에만 발생했다는 사실을 확인할 수 있었다.

인간과 AI의 협업 시대가 시작됐지만 AI에 대한 과잉 의존은 인간과의 협업에 걸림돌이 될 수 있다. 인지강제기능은 인간의 분석적 사고를 자극하고, AI의 의사결정 과정에 대한 이해를 증진함으로써 AI 과잉 의존을 억제하는 데 도움이 될 수 있다. AI라는 훌륭한 기술을 제대로 사용하려면 이런 인지강제기능이 제 기능을 발휘할 수 있도록 인지 동기의 개인차를 고려하고 이 기능의 종류, 강도, 시기도 적절히 조절할 필요가 있다.



곽승욱 숙명여대 경영학부 교수 swkwag@sookmyung.ac.kr
정리=김윤진 기자 truth311@donga.com