[발표자] 최예인 (dev.yeinchoi@gmail.com)
[논문 제목] When AI is Perceived to Be Fairer than a Human: Understanding Perceptions of Algorithmic Decisions in a Job Application Context
[저자] Hyesun Choung, John S. Seberger, and Prabu David
[학술대회/학술지] International Journal of Human–Computer Interaction
채용 프로세스에서 AI 기반 의사 결정과 공정성 인식에 대해 고찰한 대한 내용이 인상깊습니다. 특히 동일한 판단임에도 불리한 결과일 때 AI 의사결정을 덜 부정적으로 평가 했다는 점에서 흥미로웠습니다. 개인적으로는 불리한 결과일 때 AI 의사결정을 더 공정하지 못하다고 판단할 것이라고 생각했습니다. AI가 질적인 내용의 복합적인 맥락을 제대로 이해할 지 의심이 되기도 하고, 전통적으로 사람이 해오던 평가 역할을 AI로 대체하는 것을 받아들이는게 어렵지 않을까 생각했기 때문입니다.
결과를 통해 사람들이 AI의 의사결정 과정은 중립적이고 일관적이라고 인식하고 있다는 것을 알 수 있었습니다. 한편으로는 이러한 인식이 시나리오 상황이 아닌 생업이 달린 실제 채용상황이었다면 다른 결과가 나왔을지도 궁금해집니다.
또한 사람들이 AI가 공정한 판단을 내렸다고 믿는 것을 기반으로 향후 기업들이 불리한 결정을 전달하는 과정에서 책임 전가로서의 매체로 AI를 활용할 수 도 있지 않을까 하고 걱정이 되기도 합니다. 좋은 논문 리뷰 감사합니다!
채용하는 직무 관련 맥락에서 AI를 인간보다 더 공정, 역량, 신뢰할 수 있다고 인식한다는 결론이 개인적으로 새롭게 느껴지는 연구였습니다. 사람들은 AI를 잘 사용하고 있음에도 불구하고 전반적인 공정성이나 신뢰성 측면에서는 여전히 인간보다 떨어질 것이라고 생각해 왔습니다. 하지만, 불리한 결과에서 오히려 AI를 선호한다는 결과를 보며 인간 평가자는 개인에 따라 주관적이거나 편견이 생길 수도 있으니 AI를 선호하는 것이 맞을 수도 있겠다는 생각이 들어 흥미로웠습니다.
또한 AI가 질적인 속성도 잘 고려한다고 믿는다는 결과 역시 AI가 더 구체적으로 살펴보고 많은 정보를 종합적으로 고려했을 것이라는 인식이 반영된 것 같아 재미있었습니다.
그리고 실험 방법 중에 예인님도 이야기했지만 manipulation check를 통해 AI의 결정인지, 사람의 결정인지, 그리고 결과가 유리한지 불리한지를 확인하는 검증 과정을 거쳐 분석 결과의 신뢰도를 높인 점도 좋은 방법이라고 생각했습니다.
한편으로는 이러한 연구를 HR 시스템 이외의 다른 상황에도 적용해보면 어떨까라는 생각이 들었습니다. 예를 들어, 대학 입시와 같은 맥락에도 적용해 보면 비슷한 상황이게 결론이 비슷하게 나올지 아니면 또 다른 결과가 나올지 궁금해졌습니다. 좋은 논문 리뷰 해주어 감사합니다.
좋아요좋아요
발표해주신 논문을 통해 채용 맥락에서 AI 의사결정이 더 공정하게 인식되는 이유가 실제 공정성 때문이라기보다는 불리한 결과에 대한 감정적 반발을 완화시키는 인지적 장치로 기능했을 가능성이 크다고 느꼈습니다. AI가 정량적 지표뿐만 아니라 동기나 의사소통 능력과 같은 질적 속성까지 충분히 고려했을 것이라고 생각했는데 이는 AI의 실제 판단 과정보다는 결과를 받아들이기 쉬운 방식으로 해석하려는 심리적 필요에 가까워 보이기도 했습니다.
말씀하신 것처럼 대상자가 불리한 평가를 받았을 때 HDM에선 의도나 감정을 투사하며 책임을 묻는 반면, ADM은 객관적 규칙의 산출물로 받아들이며 문제 제기를 유보하는 태도를 보인 점이 인상깊었습니다. 이런 결과는 AI가 더 공정하다고 인식되었다기보다는 사람들이 불리한 판단의 책임을 인간보다 AI에 더 쉽게 전가하는 경향을 보여준다고 해석할 수 있을 것 같습니다.
AI 기반 채용 시스템의 수용성 증가는 공정성의 확보라기보다는 책임의 주체가 흐려지는 방향으로 신뢰가 형성될 위험성 또한 함께 내포하고 있다고 느껴집니다. 이에 관한 후속 연구가 더 활발히 진행될 것이라고 생각하며, 앞으로의 연구 방향이 기대되는 주제였습니다. 좋은 논문 리뷰 감사합니다.
좋아요좋아요
저는 기업이 사람을 채용하는 과정에서 지원자의 인성, 태도, 삶의 맥락과 같은 요소는 결국 여러 사람을 경험해 온 ‘인간’만이 제대로 판단할 수 있다고 오랫동안 생각해 왔습니다. 그러나 이번 연구를 통해 사람들이 AI의 결정이 명백하게 잘못되어 신뢰가 무너진 경우가 아니라면 오히려 인간보다 더 공정하고, 유능하며, 신뢰할 수 있는 의사결정자로 인식하고 있다는 점이 인상 깊었습니다.
다시 생각해보면 인간이 평가를 할 경우 개인의 감정이나 평가자의 고유한 편향이 완전히 배제되기는 어렵고, 지원자는 이러한 요소들이 자신에게 불공정하게 작용했을 것이라고 인식할 수도 있을 것 같습니다. 반면 AI는 불리한 결과를 제시할 때에도 정량적인 지표와 함께 질적인 평가를 제시함으로써, 평가가 추상적인 판단이 아니라 ‘어떤 부분에서 왜 감점되었는지’를 비교적 명확하게 보여주기 때문에 결과를 더 납득하게 만드는 측면이 있는 것 같았습니다.
저는 이 논문을 보며 두 가지 의문점도 함께 들었습니다. 첫 번째는 채용이라는 맥락 자체에 대한 것입니다. 채용은 결국 함께 일할 사람을 선발하는 과정이기 때문에, 어느 정도의 주관성과 편향은 현실적으로 감수되는 영역이라고 생각합니다. 물론 학연, 지연, 혈연과 같은 명백히 불공정한 요소에 기반한 채용은 문제지만, 조직에 적합한 태도, 인성, 분위기, 그리고 첫인상에서 느껴지는 아우라와 같은 요소들은 오랜 경험을 한 사람만이 비교적 잘 감지할 수 있는 부분이라고 생각합니다. 이러한 점을 충분히 인식하고 있는 참가자들이었다면, 본 연구와는 다소 다른 결과가 나타나지 않았을까 하는 생각도 들었습니다.
두 번째는 유리한 결과에 대한 인식입니다. 연구에서는 유리한 결과일수록 의사결정자를 더 공정하고 신뢰할 수 있다고 평가하는 경향이 나타났지만, 인간이 평가했을 경우에는 나에 대한 맥락적 이해와 능력에 대한 인정이 반영되었다는 느낌을 받아 AI보다 더 높은 공정성이나 신뢰를 느낄 가능성도 있다고 생각했습니다. 반대로 AI의 경우에는 사전에 설정된 기준을 충족했기 때문에 좋은 평가를 받은 것이라는 인식을 하여 “과연 내가 정말로 유리한 평가를 받을 만큼 적합한 사람인가?”라는 의문이 생길수도 있지 않을까 하는 생각도 들었습니다. 이 부분이 조금 더 구체적으로 논의되었으면 좋았을 것 같습니다.
그래도 유리한 결과일 때는 ADM과 HDM 모두 긍정적으로 평가되지만, 불리한 결과일 경우에는 ADM이 상대적으로 더 수용된다는 결과는 흥미로웠고, 마지막에 개인적인 견해를 통해 제가 생각하지 못했던 측면까지 생각해볼 수 있었다는 점이 좋았습니다!
좋아요좋아요
좋은 리뷰 감사합니다. 다만 리뷰를 보면서 든 두 가지 의문점이 있습니다.
1) 유리한 결과 = 신뢰 상승인가?
본 논문에서는 유리한 결과가 제시될수록 평가 주체에 대한 신뢰가 전반적으로 상승한다고 해석하고 있으나, 이러한 관계를 일반화하기에는 다소 한계가 있는 것 같다는 생각이 들었습니다. 해당 결과는 단회적 실험 맥락에서는 타당할 수 있으나, 실제 사용 맥락에서의 신뢰 형성 과정을 충분히 설명한다고 보기는 어려울 것 같습니다.
신뢰는 결과의 절대적 유·불리 자체보다는, 사용자의 사전 기대나 자기 평가와 결과가 얼마나 일치하는지에 의해 더 크게 좌우될 가능성이 있다고 생각합니다. 사용자가 스스로 자신의 수행이 부족하다고 인식하고 있는 상황에서 불리한 결과를 받는 경우에도, 해당 판단은 비교적 쉽게 수용될 수 있기 때문입니다.
특히 반복적인 사용 상황에서는 지속적으로 유리한 결과가 제시될 경우 오히려 평가 시스템의 정확성이나 신뢰성에 대한 의문을 야기하여, 장기적으로는 신뢰를 저하시킬 것으로 예상됩니다.
2) 부정적 결과를 AI가 제시할 때 더 잘 수용한 이유
본 연구에서 부정적 결과가 인간 평가자보다 AI에 의해 제시될 때 참가자들의 반발이 더 적게 나타났다는 점은 인상적인 결과입니다. 이는 AI가 개인적 의도나 감정이 개입되지 않은 비인격적이고 객관적인 판단자로 인식되었기 때문일 가능성이 큽니다.
다만 이러한 결과는 실험에서 인간 평가자의 권위나 전문성이 명시적으로 제시되지 않았다는 점의 영향을 받았을 수도 있습니다. 만약 평가자가 해당 분야의 전문성을 갖춘 권위 있는 인물로 제시되었다면, 불리한 결과에 대한 수용 양상은 달라졌을 가능성도 존재한다고 생각합니다.
좋아요좋아요
저도 발표자님과 마찬가지로 불리한 결과를 받았을 때 인간의 부정적 판단에 더 반발했다는 결과가 가장 흥미롭게 느껴졌습니다. AI는 자신의 숨겨진 가치를 더 잘 알아봐주지 못할 것이라는 생각이 있을 수 있는데 오히려 인간보다 AI가 더 공정하게 받아들여질 수 있다는 점이 인상적이었습니다.
그래서 이런 결과는 사람들이 AI 의사결정에 대해 가지고 있는 “AI는 주관적 편향 없이 데이터 기반으로 평가했을 것이다”라는 믿음에서 나온 것이 아닐까 생각합니다. AI가 실제로 완벽하게 공정해서라기보다는 적어도 사람의 입장에서는 인간 평가자보다 감정이나 선입견 같은 요소가 개입될 가능성이 낮다고 상상하기 쉽기 때문에 상대적으로 납득되는 판단으로 이어지는 것 같아요.
그리고 기대에 미치지 못하는 결과를 받았을 때 이를 본인이 아닌 타인(인간 평가자)의 탓으로 돌리고 싶어지는 심리 또한 반영된 것 아닌가 생각합니다. 이 논문 리뷰를 보고나니 인간이 인간에게 갖는 믿음과 AI에게 갖는 믿음 사이의 적절한 균형점을 찾아가는게 중요하다는 생각이 들었습니다. 좋은 논문 리뷰 감사합니다!
좋아요좋아요
SM-HCAI LAB 
Sera Park님에게 덧글 달기 응답 취소