모델 연구
Assessing Alignment and Stability of Feature Importance Explanations via Weight of Evidence
ARarXiv
설명 가능한 AI(XAI)에서 피처 중요도 방법론을 Weight of Evidence(WoE) 기반의 가설 검정 프레임워크로 재해석했습니다.
세 줄 요약
- 이 방식은 특정 피처 중요도 가설이 실제 데이터에 의해 얼마나 강력하게 뒷받침되는지 정량적으로 측정하여 모델 해석의 신뢰도를 높입니다.
- 사전에 정의된 도메인 지식이나 참값 등 다양한 기준을 활용해 모델 설명을 검증할 수 있어 해석의 객관성을 확보합니다.
- LIME이나 SHAP 같은 기존 설명 기법에 적용 가능하며, 모델 해석을 증거 기반의 관점에서 평가하는 새로운 도구를 제공합니다.
설명 가능한 AI(XAI)에서 피처 중요도 방법론을 Weight of Evidence(WoE) 기반의 가설 검정 프레임워크로 재해석했습니다.