CHI '26 논문 분석: AI 편향성부터 사기 취약점까지

한 연구는 LLM 기반의 자동 완성 기능을 활용하여 구직자들이 남성과 여성 지원자의 이력서를 평가하는 실험을 진행했습니다. 참가자들은 ‘John’과 ‘Jennifer’라는 가상의 인물을 대상으로 평가를 수행했으며, AI가 성 고정관념에 반대되는 제안(counter-stereotypical suggestions)을 제공했을 때 Jennifer의 인식된 역량과 신뢰받는 리더로서의 가능성이 높아졌습니다. 그러나 이러한 반고정관념적 제안은 동시에 젠더 역반응(gender backlash)을 활성화시켜, 다른 조건에 비해 Jennifer가 덜 호감 있게 보이게 만드는 결과를 초래했습니다.

또 다른 연구에서는 온라인 사기 피해를 입는 사람들의 Reddit 게시물 405건을 분석하여 도움 요청의 배경과 심리적 요인을 탐구했습니다. 이들은 대상자가 참여하는 다섯 가지 근본적인 감정 동기(두려움, 희망, 신뢰, 죄책감, 소속감)와 네 가지 유형의 도움 필요성(상황 파악, 안내, 정서적 지지, 행동)을 발견했습니다. 특히 재정적 또는 법률적 불안정성이 위험도를 높이는 요인으로 작용하는 것으로 나타났습니다.

세 번째 논문은 개인 가치와 시간 사용 간의 연관성을 탐구하며, 참가자들이 자신의 일상 활동 기록에 개인적 가치를 연결하여 주석을 달 수 있는 시간 추적 시스템을 설계했습니다. 15명의 참가자를 대상으로 한 다주기 현장 연구 결과, 이러한 주석 작업 자체가 참여자들로 하여금 자신의 행동이 어떤 가치와 부합하는지 성찰하게 했으며, 일부는 명시적인 목표가 아님에도 불구하고 실제 행동 변화를 보였습니다.

전반적으로 이 논문들은 기술적 개입이 인간의 편향성이나 심리적 취약점을 어떻게 증폭시키거나 완화할 수 있는지 보여주며, 연구자들은 이러한 시스템 설계 시 개입 의도를 투명하게 공개하고 단기적인 결과를 넘어 장기적인 행동 변화를 측정하는 후속 검증이 중요하다고 논합니다.