[Review] Trust Me, I’m Transparent: Describing AI Systems Using Global Explanations

댓글

“[Review] Trust Me, I’m Transparent: Describing AI Systems Using Global Explanations”에 대한 5개 응답

1. 박다은

   2026년 1월 16일

   이번 논문을 통해 투명성은 단순히 정보를 많이 제공하는 것이 아니라, 사용자가 스스로 판단할 수 있다고 느끼게 만드는 perceived competence을 강화할 때 비로소 효과를 낸다는 점이 인상 깊었습니다. 특히 TI가 신뢰나 수용에 직접적으로 작용하지 않고, perceived competence를 핵심 매개로 작동한다는 결과는 설명 자체가 신뢰를 증가시킬 것이라는 제 생각을 바꿔주었습니다. 또한 동일한 설명이라도 사용자 역할(operator/end user)과 위험 수준에 따라 효과가 완전히 다를 수 있다는 점에서 투명성의 효과는 보편적이지 않다는 사실을 확인할 수 있었습니다.

   결과 분석 중에 acceptance의 사용의향이 높아질 것이라는 가설이 기각된 이유가 무엇인지 궁금하여 생각해보았습니다. “괜찮아 보이네, 믿을 수는 있겠네”까지는 가도 “앞으로 이걸 쓰겠다”까지는 짧은 실험이나 단기 노출만으로는 잘 안 될 것이라고 생각합니다. 그렇기 때문에 acceptance 부문에서 시간의 효과가 통계적으로 유의하지 않아 가설이 기각된 것이 아닌가라는 생각을 하였습니다.

   마지막으로, 영상 끝에 개인적인 견해와 경험담을 넣어준 점이 좋았고, 개인 연구까지 확장하는 모습이 보기 좋았습니다. 이번 영상도 잘 들었습니다!

   좋아요좋아요

   답글
2. Sera Park

   2026년 1월 16일

   AI 시스템을 사용하기 전에 결정에 필요한 정보를 4가지 범주로 구조화해 제공하는 투명성 인터페이스인 TI라는 개념 자체가 익숙하지 않으면서도 새로워 흥미롭게 느껴졌습니다. 또한, TI 뿐만 아니라 사용자 역할과, 위험 수준, 그리고 perceived competence라는 매개 효과까지 포함하여 가설을 세우고, 실험하고, 다양한 방법으로 분석을 수행한 연구 설계도 인상적이었습니다.

   결과적으로 TI의 제공이 시스템에 대한 신뢰를 높이고, operator일 때 신뢰가 증가하고, 수용은 부분지지라는 점에서 투명성이 당연히 신뢰와 수용성을 모두 높인다는 기존 생각과는 다른 결론이 흥미로웠습니다.

   추가적으로, perceived competence가 신뢰에 영향을 미치는 매개 변수라는 결론을 통해 단순히 정보를 제공하는 것보다 사용자가 스스로 판단할 수 있다는 자신감을 갖는 것이 신뢰 형성에 더 중요하다는 점을 새롭게 알게 되었습니다. 이러한 결과를 바탕으로 향후 AI 시스템의 투명성과 설명 방식을 설계할 때는 사용자에게 판단과 자신감을 형성해 줄 수 있는 방안을 고려할 필요가 있다는 생각을 하게 되었습니다. 좋은 논문 리뷰 감사합니다.

   좋아요좋아요

   답글
3. 한은정

   2026년 1월 16일

   AI 투명성이 ‘사용자가 스스로 판단할 수 있다고 느끼게 하는가’의 문제로 정의하고 연구를 진행한 점이 인상 깊었습니다. 기존 XAI 연구들이 설명의 형식이나 정확성에 집중했다면, 이 연구는 투명성이 실제로 어떤 심리적 경로를 통해 신뢰나 수용으로 이어지는지를 정교하게 분석하고 있어 흥미로웠습니다.
   또한 단순한 코드와 알고리즘 공개가 오히려 전문가와 비전문가 간 격차를 심화시킬 수 있다는 문제의식은 평소 제가 느껴왔던 문제점과 맞닿아 있어 특히 공감이 갔습니다. 기술 중심 투명성의 한계를 명확히 짚고, 이를 인간 중심 관점에서 재구성하려는 시도가 잘 드러난 연구라고 생각합니다.
   특히 운영자 역할에서만 신뢰가 유의미하게 증가했다는 결과는 신뢰가 단순한 태도 차원이 아니라 책임과 판단 권한이 부여된 위치에서 형성되는 개념임을 보여준다고 느꼈습니다. 사용자가 시스템을 이해하고 스스로 판단할 수 있다고 느낄 때 비로소 신뢰로 이어진다는 해석은 매우 인간 중심적이며 AI 투명성이 곧 권한 부여의 문제와도 연결될 수 있겠다는 생각이 들었습니다. 평소 가지고 있던 무의식 중의 문제들을 스스로 생각하게끔 이끌어내준 좋은 논문 리뷰였습니다.

   좋아요좋아요

   답글
4. 박서윤

   2026년 1월 17일

   이 논문의 핵심 질문을 살펴보며 가장 먼저 떠오른 의문은 (비록 논문의 요지는 이것이 아니나)“사용 전에 전역적 설명이 제공된다면, 사용자들은 과연 이를 실제로 읽을 것인가?”였습니다.

   현실의 사용자 경험을 고려해 보았을 때, 전역적 설명은 그 중요성에 비해 실제로는 쉽게 소비되지 않을 가능성이 높다고 느꼈습니다. 사용자의 행동에 대한 피드백도 아니고, 당장 사용자에게 필요해보이지 않기 때문입니다.
   위험도가 명확하게 인지되지 않는 상황이거나, 강한 경고(WARNING) 혹은 불안감을 유발하는 UI가 동반되지 않는 경우에는 대부분의 사용자들이 긴 설명을 적극적으로 읽지 않을 것이라 예상하였습니다. 사람들은 본질적으로 긴 텍스트를 회피하는 경향이 있으며, “왜 이것을 읽어야 하는지”에 대한 명확한 동기가 주어질 때에만 비로소 설명을 탐색하려는 행동을 보이기 때문입니다. 이러한 점에서 전역적 설명은 가능한 한 최소화되거나,
   사용자가 읽을 수밖에 없는 맥락과 함께 설계되어야 한다는 생각이 들었습니다. 현실의 상황에서는 설명을 읽는 행위 자체가 가장 큰 진입 장벽이 될 수 있기 때문입니다.

   이러한 생각과는 별개로 이 논문에서 제시하는 가장 중요한 통찰은, 투명성이 단순히 제공되는 것만으로는 충분하지 않으며, 사용자가 지각된 역량을 느낄 때에만 신뢰와 수용으로 이어진다는 점이라고 생각합니다.
   이 점은 한편으로는 매우 당연하게 느껴지기도 하지만, 동시에 설명을 읽었다는 사실과 그 설명이 실제로 자신감을 형성했는지는 명확히 구분되어야 한다는 점을 다시금 상기시켜 주었습니다. 설명이 제공되었다고 해서 반드시 지각된 역량이 형성되는 것은 아니며, 이 간극이야말로 향후 투명성 설계에서 가장 중요한 디자인 과제가 될 수 있다고 생각합니다.

   좋아요좋아요

   답글
5. 김서연

   2026년 1월 22일

   투명성을 위해 explanation을 제공하면 자연히 사용자의 신뢰와 수용도가 높아질 것이라고 예상했는데, 실제 결과에서는 수용도가 설명 자체의 존재보다는 사용자가 얼만큼 이해하고 받아들일 수 있는지에 따라 달라진다는 점이 특히 흥미로웠습니다. 이러한 결과를 보면서 다시 한 번 설명의 방향성과 제공 방식에 대해 고민해보게 되었습니다.
   일반인도 쉽게 이해할 수 있도록 설계하는 것이 중요하다고 생각은 해왔지만 사용자가 스스로 판단할 수 있다고 느끼도록 만드는 것이 중요해진다면 설명을 제공하는 방식에 대해서도 정보를 전달하는 것을 넘어 더 기억에 남는 방식이라든지, 교육학적 관점과 결합된 접근으로 확장할 수 있지 않을까 생각해보았습니다. 충분히 연구를 해 볼만한 지점인 것 같습니다.
   또한, 기존 연구들에서 전문가와 비전문가로 사용자를 구분해 온 것과는 달리 다른 기준으로 그룹을 나누어 연구를 진행해보고 싶다고 하셨는데, 예인님의 이후 연구가 기대가 됩니다. 좋은 논문 리뷰 감사합니다!

   좋아요좋아요

   답글