모델 연구
Towards Understanding Pause Token Fine-Tuning Dynamics: A Mode Retention Perspective
ARarXiv
LLM의 '일시정지 토큰'이 단순한 추론 보조 장치를 넘어, 모델의 학습 과정 자체를 변화시키는 핵심 요소임을 밝혀냈습니다.
세 줄 요약
- 연구진은 '마스크드 경계 일시정지(MBP)' 기법을 제안하여, 다양한 LLM에서 수학/코딩 추론 능력을 높이면서도 일반 언어 이해를 유지하는 효과를 입증했습니다.
- 이 연구는 토큰의 역할을 지식 습득과 적응 사이의 균형(Retention-Adaptation)을 조절하는 '학습 동역학 개입 장치'로 재정립합니다.
- 이는 LLM 파인튜닝이 단순히 데이터를 학습하는 것을 넘어, 모델의 근본적인 학습 메커니즘 자체를 설계해야 함을 시사하는 중요한 관점입니다.
LLM의 '일시정지 토큰'이 단순한 추론 보조 장치를 넘어, 모델의 학습 과정 자체를 변화시키는 핵심 요소임을 밝혀냈습니다.