[발표자] 김예인 (cit2lights@sookmyung.ac.kr)
[논문 제목] Design Principles for Generative Al Applications
[저자] Justin D. Weisz, Jessica He, Michael Muller, Gabriela Hoefer, Rachel Miles, Werner Geyer
[학술대회/학술지] CHI ’24: Proceedings of the 2024 CHI Conference on Human Factors in Computing Systems
생성형 AI에 대한 연구가 빠르게 늘어나는 지금, 발표해주신 논문이 생성형 AI가 기존 UX 설계 원칙 위에 단순히 ‘추가 되는’ 기능이 아닌, 새로운 설계 원칙의 재정의를 요구하는 기술이라는 점을 분명하게 보여준다는 점에서 흥미롭게 느껴졌습니다. 지금까지의 가이드라인이 제시한 개념들과 달리 생성형 AI의 ‘생성 가변성’과 같은 고유한 특성이 기존 사용성의 원칙을 어떻게 근본적으로 흔드는지를 체계적으로 분석했다는 점에서 기존 연구와 차별된다고 느껴졌습니다.
특히 영상을 보며 공감했던 부분은 생성형 AI가 동일한 입력에도 매번 다르게 결과를 만들어내는 특성 때문에 전통적인 UX 원칙(일관성, 예측 가능성 등)을 정면으로 위반하는 문제를 가져오는데, 이를 단순히 예외로 치부하지 않고 새로운 원칙과 전략을 통해 해결해야 할 문제로 본다는 점이었습니다. 그리고 ‘프롬프트가 예상과 다르게 동작했을 때 그것이 시스템 오류인지, 합리적 해석인지 어떻게 판단할 것인가?’라는 질문은 제가 생성형 AI를 다루는 프로젝트를 진행하면서 자주 마주했던 고민이었기에 더 크게 공감이 갔습니다. 좋은 논문 리뷰 감사합니다.
좋아요좋아요
LLM의 생성 가변성은 으레 감안하고 사용하는 특성이라고만 생각해왔는데, 이를 ‘어떻게 컨트롤할 수 있는지’라는 관점에서 디자인 원칙을 제안한다는 점이 새로웠습니다. 당연하게 받아들였던 부분을 문제로 다시 바라보게 한다는 점에서, 연구 주제를 이렇게 만들어낼 수 있구나라는 생각이 들었습니다. 디자인 원칙을 제안하기 위해 연구팀이 네 단계의 반복 과정과 수많은 토론을 거쳤다는 점도 흥미로웠습니다. 원칙을 하나씩 정제해 나가는 과정이 굉장히 꼼꼼하고 치열해서 놀라웠습니다.
이 연구가 제안한 원칙들이 앞으로 어떤 후속 연구로 이어질지도 자연스럽게 궁금해졌는데요, 과도한 의존을 막기 위한 ‘마찰’이라는 개념이 흥미로웠는데, 실제 사용자에게 어떻게 인식될지 궁금합니다. 의도는 좋지만 사용자 입장에서는 불편함을 느낄 수도 있고 결과에 대한 신뢰성에도 역효과가 생길 수 있을 것 같기 때문입니다.
불확실성을 표기하는 방식도 더 깊게 탐구해볼만 할 것 같습니다. 얼마나, 어떤 형태로, 어떤 시점에서 표기하는 것이 가장 이해하기 쉬운지, 그리고 이러한 표기가 실제 의사결정 과정에 어떤 영향을 미치는지 등을 실험을 통해 검증해보는 연구도 흥미로울 것 같습니다. 추후 진행될 다양한 연구들을 생각해볼 수 있어서 좋은 논문이었습니다. 정리 감사합니다.
좋아요좋아요
생성형 AI 애플리케이션의 UX 설계를 위해 원칙을 체계화하는 것이 가장 기본적이지만, 꼭 필요한 과정이라고 생각하여 열심히 들었습니다. 생성 가변성과 예측 불가능성을 UX 차원에서 다루려는 문제의식이 인상적이었는데, 이는 그동안 기술적인 영역이라고만 여겨서 UX적으로 해결할 수 있을거라 상상하지 못했던 부분이었습니다. 하지만 생각해보면 이미지 생성이나 가상 현실과 같은 분야에도 분명한 설계 원칙이 존재하는 만큼 프롬프트에 따라 달라지는 출력에 대해서도 일정한 가이드라인과 원칙이 필요하겠다는 생각을 할 수 있게 되었습니다. 또한 피드백을 통해 사용자의 목적에 따라 과업을 탐색 중심, 최적화 중심으로 구분한 점도 좋았고, 생성형 AI를 단순 정답 도구가 아니라 아이디어, 학습을 위한 탐색 매체로 본 관점도 의미있는 부분이라고 생각합니다.
전반적으로 실무자들이 생성형 AI를 활용하는 데 유용한 지침라고 생각하지만, 빠르게 변화하는 기술 환경 속에서 이러한 원칙들이 얼마나 지속가능할지 궁금해지는 연구였습니다.
좋아요좋아요
3단계 설계 원칙
평소에도 관심 가졌떤 주제인데 잘 정리해주신 덕분에 처음부터 끝까지 흥미롭게 들었습니다!
좋아요좋아요
6가지 디자인 원칙 중 하나가 가이드 북에서 다뤘던 “사용자의 멘탈 모델을 형성하도록 돕기”여서 흥미롭게 보았습니다. 가이드 북에서 알려준 지침과 거의 일치하더군요.
Design for Mental Models — 사용자의 멘탈 모델을 형성하도록 돕기
사용자가 생성형 AI의 특성과 한계를 이해하게 만들기.
핵심: 생성형 AI는 너무 복잡하기 때문에 인터페이스가 “AI 사용법 학습” 자체를 포함해야 한다.
바로 이 핵심 부분이 가이드 북에서 했던 말과 완벽하게 일치해서 흥미로웠습니다.
추가로, 원칙이란 어떻게 정의되는지, 그 과정을 상세하게 살펴볼 수 있어 흥미로웠습니다. 정리하자면 다음과 같습니다.
좋아요좋아요
생성형 AI가 다양한 환경 속에서 확대됨에 따라 본 연구의 생성형 AI의 사용자 경험 설계 원칙과 전략 개발이라는 주제는 시의적절하고 앞으로 더욱 중요해질 내용이라고 생각하며 들었습니다. 기존 가이드라인은 이미지, 가상현실에만 중심을 두고, 생성 가변성을 생각하지 않았다는 점에서 본 연구가 생성형 AI의 고유한 특성만 반영한 원칙 체계를 정립했다는 점은 의미가 깊다고 생각합니다. 특히, 최적화를 위한 설계 관점에서 전략 목록을 보기 전과 후로 메모를 남기는 방식으로 평가한 캔버스는 실제로 평가 과정에서 어떠한 영향을 미치는지 비교와 검증을 세세하게 할 수 있다는 점에서 흥미롭게 다가왔습니다. 또한, 실무 적용 가능성에서 우수한 프롬프트 보상 후 작업 공유, 예시를 통한 구현 사례 등 원칙과 전략이 활용 가능을 위한 디자인 아이디어 이끌어 낸 점도 인상적이었습니다.
전반적으로 흥미롭게 들었으며 한편으로는 인간과 AI의 상호작용을 다루는 다양한 가이드라인들이 계속해서 많이 나오고 있는 상황에서 본 연구처럼 생성형 AI 이후 어떤 새로운 가이드라인이 또 나올 수 있을까?하는 궁금증이 생기는 논문이었습니다. 좋은 발표 감사합니다.
좋아요좋아요
제가 평소 생성형 AI의 생성 가변성 때문에 기존 HCI/UX 원칙을 적용하기 어렵다는 점을 고민하고 있었는데, 이 논문이 그 연구 공백을 메우는 중요한 출발점이라는 생각이 들었습니다.
특히, 단순히 원칙을 제시하는 것을 넘어, 6가지 원칙과 4가지 실행 전략으로 구성된 2단계 구조를 통해 디자이너들이 실무에 바로 적용할 수 있는 구체적인 행동 지침을 제공했다는 점이 인상 깊습니다. 반복적인 설계 과정과 실무자 워크숍을 통해 실질적인 적용 가능성을 검증한 연구 방법론도 앞으로의 제 연구 설계에 많은 도움이 될 것 같습니다.
이 원칙들이 향후 AI 리터러시를 높이고 디자이너들이 AI 제품 개발에 실질적인 영향력을 행사할 수 있는 기반을 마련해 줄 것이라고 저 또한 생각합니다.. 혹시 후속 연구로 논의된, 기술적/정책적 의사결정 과정에 디자이너가 참여하는 방안에 대한 구체적인 아이디어가 더 있었는지 궁금합니다.
좋아요좋아요
SM-HCAI LAB 
김수연님에게 덧글 달기 응답 취소