AI 에이전트 연구
Not All Explanations Are Sought: Information-Seeking Psychology for Human-Centered XAI
ARarXiv
설명 가능한 AI(XAI)는 단순히 기술적 설명을 제공하는 것을 넘어, 사용자가 정보를 찾는 심리적 동기와 기대 효용을 중심으로 설계되어야 합니다.
세 줄 요약
- 시스템의 패러다임을 '설명을 제공'하는 것에서 벗어나, 사용자가 언제, 왜 정보를 필요로 하는지 예측하고 유도하는 방향으로 전환해야 합니다.
- 특히 연쇄적인 행동과 위험 예측이 중요한 에이전트형 AI에서는 사용자의 심리적 편향까지 고려하여 신뢰성을 확보하는 것이 필수입니다.
- 사용자의 인지적 편향(자동화 편향 등)은 설명을 왜곡 해석하게 만들 수 있으므로, 설명 자체가 주의 분산이나 오해를 유발하지 않도록 설계해야 합니다.
설명 가능한 AI(XAI)는 단순히 기술적 설명을 제공하는 것을 넘어, 사용자가 정보를 찾는 심리적 동기와 기대 효용을 중심으로 설계되어야 합니다.