리서치 연구
에너지 모델 해석을 위한 대화형 XAI 인터페이스 개발
Explainability Assistant: A Conversational XAI Interface for Interpreting Energy Consumption Models
arXiv복잡한 에너지 소비 예측 모델의 결과를 시설 관리자가 쉽게 이해하도록 돕는 대화형 설명 가능한 AI(XAI) 인터페이스가 개발되었습니다.
세 줄 요약
- 최신 LLM의 함수 호출 기능을 활용하여 기존 방식의 한계를 극복했으며, 높은 의도 파싱 정확도와 유연한 자연어 상호작용을 지원합니다.
- 기존 XAI 대시보드가 요구하던 전문 지식 없이도 현장 전문가가 복잡한 AI 분석 결과를 직관적으로 이해할 수 있도록 사용성을 혁신했습니다.
- 특정 작업에 대한 별도의 미세 조정 없이 다양한 기계 학습 문제 유형에 적용 가능하며, 실제 사용자들로부터 높은 실용성과 편의성을 인정받았습니다.
에너지 소비 예측은 유전 프로그래밍 기반의 심볼릭 회귀와 같은 복잡한 기계 학습(ML) 모델에 의존하여, 시설 관리자나 건물 운영자가 그 결과를 해석하기 어려울 수 있습니다. 기존 설명 가능한 인공지능(XAI) 대시보드는 높은 기술 전문 지식을 요구하며 동적이고 상황 인지적인 질문에 유연하게 대응하는 데 한계가 있었습니다.
본 논문에서 소개된 Explainability Assistant는 최신 (LLM)의 함수 호출 기능을 활용하는 대화형 XAI 시스템입니다. 이 시스템은 이전 방식들이 가졌던 엄격한 사용자 정의 문법의 제약을 극복했으며, 94%에 달하는 의도 파싱 정확도를 달성하여 유연한 자연어 상호작용을 지원합니다.
에너지 도메인 전문가를 대상으로 한 비교 평가 결과, Explainability Assistant는 기존 XAI 대시보드 대비 향상된 사용성과 일관된 작업 정확도를 보였습니다. 모든 전문가는 실질적인 사용 목적으로 대화형 인터페이스를 만장일치로 선호한다고 응답했으며, 이 시스템은 특정 작업에 대한 별도의 없이 다양한 ML 문제 유형에 적용 가능합니다.
용어 풀이
- 대규모 언어 모델
- 방대한 글을 학습해 문장을 이해하고 만들어 내는 AI 모델. ChatGPT, Claude, Gemini가 여기에 속해요.
- 오픈 소스
- 소스 코드를 공개해 누구나 보고 고치고 다시 배포할 수 있게 한 소프트웨어.
- 미세 조정
- 이미 학습된 모델을 특정 목적의 데이터로 조금 더 학습시키는 일.