[발표자] 김서연 (seoyeonk@sookmyung.ac.kr)
[논문 제목] Conversational Inoculation to Enhance Resistance to Misinformation
[저자] Dániel Szabó, Chi-Lan Yang, Aku Visuri, Jonas Oppenlaender, Bharathi Sekar, Koji Yatani, Simo Hosio
[Conference] Proceedings of the 2026 CHI Conference on Human Factors in Computing Systems
허위정보에 대해 인지적으로 예방접종을 한다는 개념 자체가 흥미롭다고 생각하며 들었습니다. 챗봇이 가장 좋은 결과를 보였다는 점은 어떻게 보면 어느 정도 예상 가능한 결과이기도 했지만 왜 챗봇이 효과적인지 그 이유를 탐색했다는 점에서 좋은 연구라고 생각했습니다. 특히 챗봇이 정보를 권위적으로 전달하는 것이 아니라 사용자가 스스로 탐구할 수 있도록 유도하고, 사고를 촉진하며, 동등한 관계에서 상호작용하도록 설계되었다는 점이 인상적이었습니다.
또한 연구 방법 측면에서도 사전, 사후 확신도 점수를 측정하여 변화를 확인한 점이 설득력 있게 느껴졌습니다. 그러나 논의에서도 다루었듯이, 개인화나 페르소나 부여 등과 같은 한계점을 보완한 보다 발전된 챗봇을 활용하여 연구를 진행해 보면 어떨까 하는 생각이 들었습니다. 좋은 논문 리뷰 감사합니다.
최근 생성형 AI 시대의 가장 큰 화두 중 하나인 ‘허위 정보’ 문제를 Cognitive Inoculation Theory이라는 심리학적 프레임워크와 LLM의 대화형 특성을 결합해 풀어낸 지점이 매우 인상 깊었습니다. 특히 기존의 읽기나 쓰기 같은 일방향적/정적인 방식보다, 챗봇과의 실시간 토론을 통한 Conversational Inoculation이 사용자의 저항력을 높이는 데 유의미한 효과가 있었다는 실험 결과가 흥미롭습니다. 단순히 정답을 제시하는 것이 아니라 사용자가 스스로 추론하고 반박하도록 유도하여 독립적 사고를 촉진하고, 시스템과 동등한 파트너 관계를 형성하게 설계한 Mindforsst 의 접근 방식은 향후 교육용 에이전트 설계에도 큰 시사점을 준다고 생각합니다.
또한, 발표자님께서 마지막에 제안해 주신 ‘위협 에이전트(반대 주장 제시)’와 ‘가이드 에이전트’의 분리 모델은 멀티 에이전트 시스템 연구 측면에서도 아주 신선한 아이디어인 것 같습니다. 연구의 한계점으로 짚어주신 시간 간격의 문제나 주제의 확장성 부분도 후속 연구를 고민하는 입장에서 많은 공부가 되었습니다. 복잡한 논문 내용을 핵심 위주로 명쾌하게 정리해 주셔서 정말 감사합니다. 앞으로도 리뷰 영상 기대하겠습니다!
댓글 남기기