XAI-Refine: 뇌 나이 예측을 위한 자동 설명-지식 루프
XAI-Refine: An Automated Explanation-Knowledge Loop for Brain-Age Prediction
arXiv뇌 나이 예측 모델은 단순한 정확도를 넘어, 그 판단 근거가 생물학적으로 타당하고 재현 가능한지 검증하는 것이 핵심 과제입니다.
- 연구진은 XAI-Refine이라는 자동화된 설명-지식 루프를 제안했습니다. 이 시스템은 분석 결과를 바탕으로 신경생물학적 질문을 던지고, 문헌 검색 및 검증을 통해 모델 설명을 개선합니다.
- 이 기술은 AI가 도출한 예측 근거를 실제 과학 지식과 연결하여, 단순 진단을 넘어 증거 기반의 모델 정제(Refinement) 경로를 제시한다는 점에서 의미가 큽니다.
- 모델 업데이트는 목표 설명 이동 확인, 성능 범위 유지 등 엄격한 다중 검증 과정을 거쳐야만 적용되므로 높은 신뢰성을 확보할 수 있습니다.
기존의 뇌 나이 예측 모델은 단순히 높은 예측 정확도로만 평가되는 경향이 있어, 해당 모델이 재현 가능하거나 신경생물학적으로 지지되는 메커니즘에 기반하는지 확인하기 어렵습니다. 연구진은 이러한 한계를 극복하기 위해 XAI-Refine이라는 자동화된 설명-지식 루프를 제안했습니다. 이 시스템은 휴지기 기능 연결성 데이터를 이용한 뇌 나이 예측 과정에서, 반복적인 학습 실행을 통해 얻은 상호 보완적인 사후 분석 결과를 신뢰할 수 있는 구조적 모델 설명으로 통합합니다.
XAI-Refine의 핵심 작동 방식은 현재의 신뢰 가능한 설명을 중립적인 신경생물학적 질문으로 변환하는 것입니다. 이후 관련 문헌을 검색하고 검증하여 적격한 증거를 모으고, 이를 동일한 유형의 설명 공간에 포함된 허용 가능 집합(admissible set)으로 컴파일합니다. 모델 정제(refinement)의 목표는 현재 모델 설명이 이 검증된 지식에 의해 유도되는 허용 가능 집합 위로 투영된 최소값으로 정의되며, 이는 미분 가능한 제약 조건으로 변환됩니다.
모델 업데이트가 이루어지기 위해서는 매우 엄격한 다중 시드(multi-seed) 검증 과정을 거쳐야 합니다. 후보 업데이트는 목표 지향적인 설명 이동이 확인되고, 예측 성능이 사전에 지정된 가드레일 내에 유지되며, 비목표적 설명의 이탈(drift)이 제한되는 경우에만 승격됩니다. 이러한 절차를 통해 높은 신뢰성을 확보하며, 실험은 예측 성능뿐 아니라 설명의 신뢰성, 문헌 정렬도, 목표별 모델 수정 능력을 평가했습니다.