모델 연구
INSPIRE: An Internalize-Then-Improve Approach for Example-Driven Mathematical Reasoning
ARarXiv
LLM이 단순한 정답 패턴 암기를 넘어 개념을 깊이 이해하도록 돕는 'INSPIRE'라는 새로운 수학 추론 학습법이 제안되었습니다.
세 줄 요약
- INSPIRE는 모델 자체의 분포를 활용해 고품질 선호 쌍을 생성하는 RGSI와 단계별 훈련 전략을 결합하여 학습 효율성을 높입니다.
- 이 방법은 LLM이 인간처럼 예시 기반으로 개념 자체를 내재화하며 사고할 수 있도록, 추론 능력 강화에 초점을 맞췄습니다.
- 실험 결과, 대규모 오픈소스 모델보다 우수한 성능 개선을 보였으며 일반적인 수학 추론 능력 저하 없이 높은 신뢰성을 입증했습니다.
LLM이 단순한 정답 패턴 암기를 넘어 개념을 깊이 이해하도록 돕는 'INSPIRE'라는 새로운 수학 추론 학습법이 제안되었습니다.