개발도구 연구
Learning Evidence Sufficiency Boundaries for Selective Answering in Grounded Multi-Hop QA
ARarXiv
다단계 질문 답변(Multi-Hop QA) 시스템이 증거가 불충분할 때도 그럴듯한 오답을 내놓는 문제를 해결하는 새로운 학습 프레임워크를 제안했습니다.
세 줄 요약
- 제시된 방법은 증거의 순서에 따라 모델에게 '언제 추론을 중단하고, 언제 답변해야 하는지' 경계(boundary)를 명확히 학습시켜 정확도를 높입니다.
- 이 기술은 기존 방식 대비 거짓 답변 비율을 크게 낮추고, 근거가 충분하지 않은 상황에서 추론을 멈추는 능력을 입증하여 신뢰도를 극대화했습니다.
- 복잡한 다단계 추론 환경에서 모델이 단순히 정보를 나열하는 것을 넘어, 제시된 근거의 충분성을 판단하는 것이 핵심 기술임을 보여줍니다.
다단계 질문 답변(Multi-Hop QA) 시스템이 증거가 불충분할 때도 그럴듯한 오답을 내놓는 문제를 해결하는 새로운 학습 프레임워크를 제안했습니다.