데이터 위상 분석 기반, 모델 독립적인 특징 중요도 측정 기법
$\Psi$-Resilience: Model-Free Feature Importance from 1D Topological Signals
arXiv데이터 자체의 1차원 위상 신호를 활용하여 모델에 의존하지 않고 특징 중요도를 측정하는 새로운 방법인 $\Psi$-Resilience가 제안되었습니다.
이 기법은 예측 모델에 의존하지 않고 데이터 분포 자체에서 특징의 중요도를 측정할 수 있게 하여 AI 시스템의 투명성과 신뢰성을 높여줘요.
- 이 방법은 데이터 교란에도 강한(robust) 특징만을 추출해 중요도 점수를 산출하며, 기존 방식과 높은 상관관계를 보였습니다.
- 예측 모델에 의존하지 않고 데이터 분포 수준에서 특징 중요도를 엄격하게 감사할 수 있어 AI 시스템의 투명성과 신뢰성 확보에 기여합니다.
- 합성 및 실제 데이터셋 모두에서 SHAP 등 주요 방법론과 높은 상관관계를 입증하며 안정적인 설명 기법임을 보여줍니다.
새로운 특징 중요도 측정 방법인 $\Psi$-Resilience가 제안되었으며, 이 방법은 1차원 위상 신호를 활용하여 데이터 자체로부터 설명(explanation)을 도출하는 모델 비의존적 접근 방식을 취합니다. 구체적으로는 클래스별 조건부 밀도를 추정하고 이를 특징 축을 따라 점별 절대 차이를 계산하여 클래스 불일치 지형(class-disagreement landscape)을 구성합니다. 이후 이 1차원 신호의 0차원 지속성(persistence)이 복원력 함수(resilience functional)를 정의하며, 사용자가 설정한 견고성 규모까지 교란에 살아남는 위상적 특징만을 집계하여 중요도 점수를 산출합니다.
$\Psi$-Resilience가 제공하는 중요도 점수는 근본적으로 1차원 지형과 그 지속성을 통해 감사(auditable)할 수 있는 맥락 기반의 중요도 점수입니다. 이 방식은 예측 모델에 의존하지 않고 데이터 분포 수준에서 특징 중요도를 엄격하게 감사할 수 있게 함으로써, AI 시스템의 투명성과 신뢰성 확보에 기여합니다. 이러한 특성 덕분에 $\Psi$-Resilience는 안정적인 설명 방법론으로 기능합니다.
연구진은 합성 및 실제 데이터셋 모두에서 이 방법을 평가했습니다. 특정 정답 중요도가 지정된 합성 생성기에서는, $\Psi$-Resilience가 특징 순위(ranking)를 최대 0.8의 스피어만 상관관계로 높은 충실도와 함께 복구하는 것으로 나타났습니다. 또한, 알려진 정답이 없는 실제 데이터셋에서도 SHAP 등 기존 방법론과 비교하여 최대 0.9까지의 높은 상관관계를 보이며 안정성을 입증했습니다.
실제 데이터셋에서도 높은 정확도를 보였나요?
네, 알려진 정답이 없는 실제 데이터셋에서도 SHAP 같은 기존 방법론과 최대 0.9까지 높은 상관관계를 보여 안정성을 입증했어요. 또한 합성 생성기에서는 특징 순위를 높게 복구하는 것으로 나타났어요.