모델 연구
Instruction Duplication as an Inference-Time Control Primitive
ARarXiv
언어 모델의 제어력을 높이기 위해, 추론 과정에서 절차적 지시(procedural instruction)를 단순히 반복하는 '지시 중복' 기법이 소개되었습니다.
세 줄 요약
- 특히 답변 공학(Answer Engineering) 같은 다운스트림 시스템에 적용했을 때 성능 향상이 두드러져, 특정 지표가 25.1%에서 97.1%까지 크게 개선되는 결과를 보였습니다.
- 이는 모델 재학습이나 디코딩 방식 변경 없이도 시스템의 신뢰성과 제어 가능성을 높일 수 있는 저복잡도의 실용적인 방법론입니다.
- 다만, 이 기법의 실제 가치는 단순히 지시를 반복하는 것 자체보다, 생성된 궤적(trajectory)을 받아 처리하는 후속 시스템에 따라 결정됩니다.
언어 모델의 제어력을 높이기 위해, 추론 과정에서 절차적 지시(procedural instruction)를 단순히 반복하는 '지시 중복' 기법이 소개되었습니다.