모델 연구
GRACE: Graph-Grounded Reflective Agent Copilot Engine for Expert-in-the-Loop Knowledge Expansion
ARarXiv
LLM의 환각(Hallucination) 문제를 해결하기 위해, GRACE는 응답을 원자적 주장으로 분해하고 신뢰 지식 그래프에 근거하여 검증하는 프레임워크입니다.
세 줄 요약
- 단순 검색 증강 방식(RAG)과 달리, 주장을 '확인됨', '반박됨', '경계'로 분류하며 RoA 기법을 통해 전문가 검토가 필요한 불확실성만 효율적으로 선별합니다.
- 이 기술은 답변 자체를 수정하는 것을 넘어, 전문가의 검증 결과를 새로운 증거로 삼아 지식 기반 전체를 체계적으로 강화하여 시스템 신뢰도를 높입니다.
- 결과적으로 GRACE는 LLM의 신뢰성을 시스템 차원에서 근본적으로 개선하며, 고위험 환경에서의 활용 가능성을 극대화하는 핵심 기술입니다.
LLM의 환각(Hallucination) 문제를 해결하기 위해, GRACE는 응답을 원자적 주장으로 분해하고 신뢰 지식 그래프에 근거하여 검증하는 프레임워크입니다.