[발표자] 박세라 (sera199@sookmyung.ac.kr)
[논문 제목] The Behavioral Fabric of LLM-Powered GUI Agents: Human Values and Interaction Outcomes
[저자] Simrert Araya Gebreegziabher, Yukun Yang, Charles Chiang, Hojun Yoo, chaoran Chen, Hyo Jin Do, Zahra Ashktorab, Werner Geyer, Diego Gómez-Zará, Toby Jia-Jun
[학술대회/학술지] Proceedings of the 31st International Conference on Intelligent User Interfaces
Value와 Preference를 다른 개념으로 구분하여 에이전트의 행동을 분석한 점이 매우 흥미로웠습니다. Preference를 특정 태스크에서의 구체적인 선택으로, Value를 다양한 상황에서 일관되게 의사결정을 이끄는 상위 원칙으로 구분한 점이 재미있다고 느껴졌고, 이 개념을 바탕으로 태스크 인스트럭션을 설계한 접근도 인상적이었습니다.
에이전트의 value보다 UI가 행동에 더 큰 영향을 미칠 수 있다는 결과를 보고 UI 설계의 중요성과 책임감에 대해 다시 한번 생각하게 되었습니다. 사용자의 가치나 의도가 존재하더라도 인터페이스의 시각적 단서와 정보 배치가 실제 행동을 크게 변화시킬 수 있다는 점은 HCI 관점에서도 의미 있는 시사점이라고 생각합니다.
value를 부여하지 않은 기본 에이전트조차 저렴한 상품이나 인기 있는 상품을 선호하는 행동을 보였다는 결과 또한 매우 흥미로웠습니다. 현재 사용하고 있는 LLM에도 사용자가 인지하지 못하는 다양한 편향이 내재되어 있을 가능성을 다시 생각하게 되었습니다. 구체적으로 어떤 편향이 존재하고 어디에서 비롯되었는지를 밝혀내는 연구도 흥미로울 것 같다는 생각이 들었습니다. 동시에 AI를 과신해서는 안 된다는 경각심도 다시 한번 들었으며, 사용자들이 모델의 특성과 내재된 편향을 이해하는 것이 점점 중요해지고 있다고 느꼈습니다.
댓글 남기기