실현 가능한 반사실적 설명(CF)을 찾는 알고리즘 FCx
FCx: An algorithm for finding Feasible Counterfactual Explanations
arXiv기존 카운터팩추얼 설명은 비현실적이거나 현실 제약에 맞지 않는 변화를 제시하는 문제가 있었으나, 'FCx'는 실현 가능성을 보장합니다.
- 이 알고리즘의 핵심은 도메인 지식 기반의 하드 제약과 데이터 추론 기반의 소프트 제약을 모두 반영하여 현실적인 설명을 생성한다는 점입니다.
- 단순히 이론적 설명에 그치지 않고, 사용자가 실제로 적용 가능한 '구체적이고 실질적인 개선 방안'을 제시함으로써 AI 신뢰도를 높여줍니다.
- FCx는 변분 오토인코더(VAE)와 다중 요인 손실 함수를 활용하여 설명의 '비용'과 '현실성'을 모두 최적화하며, 최고 수준의 성능을 입증했습니다.
카운터팩추얼(Counterfactual, CF) 설명은 입력값의 분류를 변경하는 변화를 식별하는 데 사용됩니다. 기존 방법들은 현실적이고 비용이 낮은 CF를 제시하지만, 비현실적인 수정이나 미래 변화와 양립할 수 없는 제약 조건을 포함하여 실현 가능성을 보장하지 못하는 문제가 있었습니다. 본 연구에서 소개된 FCx는 이러한 문제를 해결하기 위해 실현 가능성(feasibility)을 명시적으로 강제하는 개선된 CF 설명을 제시합니다.
FCx 접근 방식은 현실적이고, 비용이 낮으며, 실현 가능한 CF를 효율적으로 생성하는 최초의 방법입니다. 이 알고리즘은 사용자가 지정하는 도메인 지식 기반의 하드 제약 조건과 데이터셋으로부터 인과 추론을 통해 자동으로 유추되는 소프트 제약 조건을 모두 수용합니다. 구체적으로 FCx는 다중 요인 손실 함수로 최적화된 변분 오토인코더(VAE)를 기반으로 합니다.
설명의 비용은 값의 절대 변화량(근접성, proximity)과 변경된 특성의 개수(희소성, sparsity)를 기준으로 측정되며, 현실성은 밀도 추정의 LOF(Local Outlier Factor)를 통해 측정됩니다. 이로써 CF가 데이터셋 내에 밀집되어 있는 영역에 존재함을 보장합니다. 네 가지 공개 데이터셋에서 광범위하게 실험한 결과, FCx는 실현 가능성을 보장하면서 여러 지표에서 최신 성능과 일치하는 결과를 보여주었습니다.