우측-좌측 언어 환경을 위한 SHAP/LIME 설명 시각화 개선 연구
When Explanations Cannot Be Read: Measuring and Correcting SHAP and LIME Rendering for Right-to-Left Languages
arXiv기존 AI 설명 도구(SHAP, LIME)는 좌측-우측 언어에 최적화되어 있어 아랍어나 페르시아어 같은 우측-좌측 언어에서는 시각화 오류가 발생했습니다. 이를 해결하기 위해 방향과 글자 모양을 교정하는 'SHAP-RTL' 렌더링 레이어를 개발했습니다.
- SHAP-RTL은 원본의 기여도 값을 정확히 보존하면서, 우측-좌측 언어의 자연스러운 읽기 순서와 복잡한 스크립트 모양을 완벽하게 구현해냈습니다. 기존 방식 대비 오류율이 현저히 낮아 기술적 완성도가 높게 평가되었습니다.
- AI 모델의 설명 가능성(XAI)이 특정 문화권이나 문자 체계에 국한되지 않고 전 세계 다양한 언어 환경에서도 공정하고 정확하게 작동할 수 있음을 입증했습니다. 이는 글로벌 AI 서비스 개발에 필수적인 기반 기술입니다.
- 본 연구는 시각적 렌더링의 정확성 확보에 중점을 두었으며, SHAP-RTL이 생성하는 설명 자체의 해석적 품질이나 유용성은 향후 추가 연구가 필요합니다.
SHAP 및 LIME과 같은 사후(post hoc) 설명 방법은 텍스트 분류기 해석에 광범위하게 사용되지만, 그 시각화는 주로 좌측-우측 언어 환경을 염두에 두고 설계되었습니다. 아랍어, 페르시아어, 우르두어 등 우측-좌측(RTL) 언어에 적용할 경우, 기여도 값 자체는 수학적으로 유효하지만 순서가 어긋나고 글자 모양이 분리되는 등 시각적 표현에 오류가 발생합니다. 본 연구는 이러한 문제를 설명 방법의 한계가 아닌 시각화 문제로 접근하여, 방향 및 스크립트 모양을 교정하는 렌더링 레이어인 SHAP-RTL을 제시했습니다.
SHAP-RTL은 원본 기여도 값을 보존하면서 RTL 언어의 자연스러운 읽기 순서와 복잡한 글자 모양 처리를 수행합니다. 이 접근법은 우르두어, 아랍어, 히브리어, 페르시아어의 혐오 및 공격적 언어 데이터셋을 대상으로 TF-IDF와 로지스틱 회귀 분류기를 사용하여 평가되었습니다. 기본 렌더링 방식은 OCR 왕복 테스트에서 0.820에서 0.979 사이의 문자 오류율을 보였으며, 기존의 임시방편(workaround)으로는 우르두어에서 0.998에 달하는 높은 오류율이 나타났습니다.
SHAP-RTL 프레임워크는 Matplotlib 버전 변경에도 정확성을 유지하며, 독자가 사용하는 언어로 기여도를 설명하는 기능도 제공합니다. 이 연구의 평가는 생성된 설명 자체의 해석적 품질보다는 '렌더링의 정확성'에 초점을 맞추고 있습니다. 본 연구 결과는 후처리 설명 가능성이 다양한 문자 체계와 글로벌 환경에서도 접근 가능하도록 만드는 데 중요한 기반 기술임을 강조합니다.
용어 풀이
- 토큰
- AI 모델이 글을 처리하는 단위. 단어보다 작은 조각이며 사용량과 요금을 셀 때 기준이 돼요.