[발표자] 김예인 (yeink@sookmyung.ac.kr)
[논문 제목] Rethinking User Empowerment in AI Recommender System: Innovating Transparent and Controllable Interfaces
[저자] Mengke Wu, Weizi Liu, Yanyun Wang, Weiyu Ding, and Mike Yao
[학술대회/학술지] CHI ‘26: In Proceedings of the 2026 CHI Conference on Human Factors in Computing Systems
추천 시스템을 기능적으로 어떻게 더 좋은 추천을 할 것인지가 아니라 사용자 중심 관점에서 연구를 진행했다는 점이 가장 새롭게 다가왔습니다. 또한, 연구 과정에서 피그마를 활용해 Provotype을 제작했다는 점을 보면서 이를 구현하는 과정이 쉽지 않았을 것 같다는 생각이 들었습니다.
연구 결과에서 참가자들이 관심사와 관련 없는 콘텐츠가 노출되는 것이 고착화된 피드를 벗어날 수 있다는 점에서 긍정적인 평가를 했는데, 저는 이와 반대로 평소에 관련 콘텐츠를 추천받는 것이 편리하고 좋다고만 생각했기에 해당 결과가 인상 깊었습니다.
또한, 추천 과정과 데이터 사용이 더 투명하게 제공된다면 사용자는 추천 결과를 더욱 납득할 수 있고, 추천 시스템에 대한 신뢰도 역시 높아질 것이라고 생각한 결과에 대해서는 동의하였습니다. 본 논문을 통해 추천 시스템은 단순히 추천 정확도를 높이는 것뿐만 아니라 사용자가 신뢰하며 직접 제어할 수 있는 방향으로 발전하는 것이 중요하다는 점을 새롭게 느낄 수 있었습니다.
현재의 추천 시스템은 사용자에게 최종 추천 결과만 제공할 뿐, 추천이 이루어진 과정은 확인하기 어렵다는 점에 공감했습니다. 이러한 불투명성이 필터 버블을 유발할 수 있다는 문제의식도 흥미로웠습니다. 논문에서 사용자가 추천의 정도를 직접 조절할 수 있도록 하는 아이디어가 인상 깊었는데, 개인적으로는 유튜브 뮤직에서 다음 재생곡을 ‘새로운 곡’과 ‘익숙한 곡’ 중 선택할 수 있도록 하는 기능이 떠올랐습니다. 이러한 기능이 다른 추천 시스템에도 적용된다면 효과적일 것 같다는 생각이 들었습니다.
또한 생각보다 많은 사용자가 필터 버블에서 벗어나고 싶어 하고, 추천 과정 자체를 알고 싶어 한다는 점도 새롭게 알게 되었습니다. 다만 추천 시스템의 내부 작동 방식을 사용자에게 어느 정도까지 설명해야 충분한 투명성을 제공했다고 볼 수 있을지, 그리고 투명성을 높이면서도 사용자 경험을 해치지 않는 방법은 무엇일지 궁금했습니다.
결국 추천 시스템의 성능과 사용자 경험 사이의 딜레마는 쉽게 해결하기 어려운 문제라는 점을 다시 한번 생각해 보게 되는 것 같습니다.. 좋은 논문 리뷰 감사합니다!
댓글 남기기