[DBR]‘추천 이유’ 덧붙이면 AI 신뢰도 높아져
고민삼 한양대 ERICA ICT융합학부 조교수 , 정리=이규열 기자
입력 2023-06-05 03:00 수정 2023-06-05 03:00
집단 취향 제시하고
사용자 정체성 반영하는
‘설명 가능한 AI’가 신뢰도 높여
![](https://dimg.donga.com/wps/ECONOMY/IMAGE/2023/06/04/119600034.5.jpg)
인공지능(AI) 기술이 눈부시게 발전하고 있지만 AI를 불신하는 사람도 적지 않다. 이런 사람에게는 AI가 만들어 낸 결과를 전할 때 결과가 만들어진 이유와 과정을 함께 설명하는 ‘설명 가능한 AI’를 활용하면 도움이 된다. 설명 가능한 AI의 중요성이 큰 분야 중 하나는 추천 시스템 영역이다. 시스템이 제공한 추천 결과를 사용자가 이해하고 받아들일 때 부가적인 설명이 붙으면 AI에 대한 신뢰도와 활용도를 높일 수 있다. 미국 펜실베이니아주립대와 캘리포니아대 공동 연구진에 따르면 추천 결과에 대한 상세한 설명은 사용자가 인식하는 추천 성능을 높이고 전반적인 사용자 경험을 개선하는 데 효과가 있는 것으로 나타났다.
연구진은 실험에 세 가지 대표적인 추천 방식을 활용했다. 사용자의 선호도와 제품 특성을 매칭하는 ‘콘텐츠 기반 추천’, 유사한 선호도를 가진 사용자를 매칭하는 ‘협업 필터링’, 인구통계학적 특성을 기반으로 사용자에게 맞춤화하는 ‘인구통계학적 필터링’이 그것이다. 각각에 설명이 포함된 추천 결과를 제시했을 때 추천 시스템에 대한 사용자 신뢰도가 어떻게 달라지는지 분석했다. 연구진은 실험 참여자 235명을 모집해 조건별로 그룹을 나눠 영화 추천 시스템을 사용해 보도록 하고 사용 경험을 분석했다. 참여자들은 시스템을 통해 영화를 추천받은 후 사용 경험 및 심리적인 요소를 알아보는 문항에 응답했다.
분석 결과 추천 방식에 따라 추천 시스템에 대한 신뢰도가 달라지는 것으로 나타났다. 사람들은 협업 필터링 방식으로 제시된 추천을 가장 신뢰했다. 이 방식에 대해서는 심지어 추천 품질이 좋지 않은 상황에서도 높은 신뢰도가 유지됐다. 이는 나와 유사한 집단의 사람들이 특정 제품을 선호한다는 구체적인 정보가 덧붙여졌을 때 AI 추천에 대한 사람들의 신뢰도를 높일 수 있음을 보여준다. 이때 인구통계와 같은 피상적인 정보만으로는 충분하지 않았고, 특정 제품에 대한 집단적 취향과 선호도를 구체적으로 반영하는 정보가 제공됐을 때 신뢰도가 높았다. 콘텐츠 기반 추천 방식이 두 번째로 높은 신뢰도를 얻었다. 자신의 개인적인 선호나 취향이 추천에 잘 반영돼 있다고 느껴지면 신뢰도를 높이는 데 도움이 된다는 의미다.
이런 분석 결과를 활용하기 위해 협업 필터링 시스템을 설계하는 디자이너는 사회적 지지를 이끌어내는 조회나 클릭 및 공유 수 등 다양한 지표를 개발하고 이를 사용자 인터페이스(UI)에 반영하는 방법을 고민해볼 수 있다. 콘텐츠 기반의 추천 시스템을 기획하고 있다면 UI에 정체성을 강화하는 요소를 집중해 추천 시스템의 결과가 사용자의 선호와 직접적으로 관련 있고 개인의 취향을 잘 반영한다는 사실을 전달할 필요가 있다. AI 서비스 설계자가 사용자에게 전달되는 설명 장치에 좀 더 신경을 쓴다면 AI 추천 시스템의 신뢰도를 높이는 데 도움이 될 것이다.
고민삼 한양대 ERICA ICT융합학부 조교수 minsam@hanyang.ac.kr
정리=이규열 기자 kylee@donga.com
사용자 정체성 반영하는
‘설명 가능한 AI’가 신뢰도 높여
![](https://dimg.donga.com/wps/ECONOMY/IMAGE/2023/06/04/119600034.5.jpg)
인공지능(AI) 기술이 눈부시게 발전하고 있지만 AI를 불신하는 사람도 적지 않다. 이런 사람에게는 AI가 만들어 낸 결과를 전할 때 결과가 만들어진 이유와 과정을 함께 설명하는 ‘설명 가능한 AI’를 활용하면 도움이 된다. 설명 가능한 AI의 중요성이 큰 분야 중 하나는 추천 시스템 영역이다. 시스템이 제공한 추천 결과를 사용자가 이해하고 받아들일 때 부가적인 설명이 붙으면 AI에 대한 신뢰도와 활용도를 높일 수 있다. 미국 펜실베이니아주립대와 캘리포니아대 공동 연구진에 따르면 추천 결과에 대한 상세한 설명은 사용자가 인식하는 추천 성능을 높이고 전반적인 사용자 경험을 개선하는 데 효과가 있는 것으로 나타났다.
연구진은 실험에 세 가지 대표적인 추천 방식을 활용했다. 사용자의 선호도와 제품 특성을 매칭하는 ‘콘텐츠 기반 추천’, 유사한 선호도를 가진 사용자를 매칭하는 ‘협업 필터링’, 인구통계학적 특성을 기반으로 사용자에게 맞춤화하는 ‘인구통계학적 필터링’이 그것이다. 각각에 설명이 포함된 추천 결과를 제시했을 때 추천 시스템에 대한 사용자 신뢰도가 어떻게 달라지는지 분석했다. 연구진은 실험 참여자 235명을 모집해 조건별로 그룹을 나눠 영화 추천 시스템을 사용해 보도록 하고 사용 경험을 분석했다. 참여자들은 시스템을 통해 영화를 추천받은 후 사용 경험 및 심리적인 요소를 알아보는 문항에 응답했다.
분석 결과 추천 방식에 따라 추천 시스템에 대한 신뢰도가 달라지는 것으로 나타났다. 사람들은 협업 필터링 방식으로 제시된 추천을 가장 신뢰했다. 이 방식에 대해서는 심지어 추천 품질이 좋지 않은 상황에서도 높은 신뢰도가 유지됐다. 이는 나와 유사한 집단의 사람들이 특정 제품을 선호한다는 구체적인 정보가 덧붙여졌을 때 AI 추천에 대한 사람들의 신뢰도를 높일 수 있음을 보여준다. 이때 인구통계와 같은 피상적인 정보만으로는 충분하지 않았고, 특정 제품에 대한 집단적 취향과 선호도를 구체적으로 반영하는 정보가 제공됐을 때 신뢰도가 높았다. 콘텐츠 기반 추천 방식이 두 번째로 높은 신뢰도를 얻었다. 자신의 개인적인 선호나 취향이 추천에 잘 반영돼 있다고 느껴지면 신뢰도를 높이는 데 도움이 된다는 의미다.
이런 분석 결과를 활용하기 위해 협업 필터링 시스템을 설계하는 디자이너는 사회적 지지를 이끌어내는 조회나 클릭 및 공유 수 등 다양한 지표를 개발하고 이를 사용자 인터페이스(UI)에 반영하는 방법을 고민해볼 수 있다. 콘텐츠 기반의 추천 시스템을 기획하고 있다면 UI에 정체성을 강화하는 요소를 집중해 추천 시스템의 결과가 사용자의 선호와 직접적으로 관련 있고 개인의 취향을 잘 반영한다는 사실을 전달할 필요가 있다. AI 서비스 설계자가 사용자에게 전달되는 설명 장치에 좀 더 신경을 쓴다면 AI 추천 시스템의 신뢰도를 높이는 데 도움이 될 것이다.
고민삼 한양대 ERICA ICT융합학부 조교수 minsam@hanyang.ac.kr
정리=이규열 기자 kylee@donga.com
비즈N 탑기사
- “모자로 안가려지네”…박보영, 청순한 미모로 힐링 여행
- 엄마 편의점 간 사이 ‘탕’…차에 둔 권총 만진 8살 사망
- 8시간 후 자수한 음주 뺑소니 가해자…한문철 “괘씸죄 적용해야”
- 교보생명, 광화문글판 가을편 새단장…윤동주 ‘자화상’
- 힐러리 “내가 못 깬 유리천장, 해리스가 깨뜨릴 것”
- ‘SNS 적극 활동’ 고현정…“너무 자주 올려 지겨우시실까봐 걱정”
- 개그맨 김경진, 부동산만 4채…‘국민 거지→23억 자산가’
- 조규홍 “전공의 추가모집 이제 없어…무조건 증원 재검토 힘들어”
- 제주 목장서 승마체험 중 벌 쏘임 사고…3명 병원으로
- 정해인 “‘베테랑2’ 제안에 너무 떨렸다…가슴 뜨거워져”
- 상가 1실을 32개로 쪼개 등기… 1기 신도시 재건축 노린 꼼수
- ‘우리금융-대출규제’ 엇박자… 금융위-금감원 사라진 ‘혼연일체’[금융팀의 뱅크워치]
- 주인 찾는 로봇청소기-택시 호출 ‘AI 집사’ 떴다
- “든든전세주택 26%에 무단 점유자 거주”
- 민간주도 ‘뉴스페이스 시대’?…우주청, 공동연구 계약지침부터 마련해야
- 꼬이는 한양증권 인수전… KCGI, 자금조달-가격협상 난항
- 결혼 앞둔 2030대, 어떤 대출 받을 수 있을까요?[부동산 빨간펜]
- 올 초 입주한 신축아파트 천장서 빗물이 콸콸…무리한 준공승인 의혹도
- 이효석과 오르는 달빛언덕… 단종이 들려주는 유배애사[여행스케치]
- “구글 뛰어넘자”… SKT, 美퍼플렉시티 손잡고 ‘AI검색’ 도전장