리서치 연구
도메인 변화 환경에서의 보행자 탐지 설명 가능성 감사 연구
Confidence-Controlled XAI Auditing for Pedestrian Detection under Domain Shift
arXiv지능형 차량의 안전을 위해 필수적인 보행자 탐지 모델의 설명 가능성(XAI)이 주행 환경 변화에 따라 얼마나 신뢰할 수 있는지 심층적으로 검증했습니다.
세 줄 요약
- 설명 충실도는 단순히 신뢰도만으로 비교하기 어려우며, 탐지 성능과 강하게 연관되어 있어 환경 변화에 따른 차이가 여전히 존재함을 확인했습니다.
- 자율주행차 등 안전이 중요한 시스템에서 AI의 판단 근거를 검증하는 방법론을 개선하고 신뢰도를 높이는 데 중요한 기준을 제시합니다.
- 설명 가능성 평가 자체가 삭제 기반 방법론과 관련 깊으므로, 특정 모델에 국한되지 않고 평가 프레임워크 전반의 재검토가 필요함을 시사합니다.
지능형 차량의 안전을 위해 필수적인 보행자 탐지 모델의 설명 가능성(XAI)이 주행 환경 변화에 따라 얼마나 신뢰할 수 있는지 심층적으로 검증했습니다.