모델 연구
CritICL: Inference-Time Weak-to-Strong Generalization from Small Language Model Failure Modes
ARarXiv
LLM의 추론 성능을 높이는 새로운 프레임워크 'CritICL'이 개발되었습니다. 이 방식은 기존처럼 반복적인 생성이나 외부 검증에 의존하는 대신, 작은 모델들의 실패 패턴 자체를 학습 자료로 활용합니다.
세 줄 요약
- CritICL은 약한 모델에서 발견된 실패 모드를 비판 기반의 예시(critique-based examples)로 활용하여 추론을 개선합니다. 실험 결과, 기존 인컨텍스트 학습보다 우수하며 고성능 방법 대비 비용 효율성이 높습니다.
- 이 기술은 높은 수준의 추론 능력을 유지하면서도 반복적인 생성이나 막대한 토큰 비용을 크게 줄여줍니다. 이는 LLM 성능 향상을 실용적이고 경제적인 방향으로 이끌 중요한 진전입니다.
- CritICL은 입력별 실패 모드를 예측하는 '동적' 방식과 전역 프로파일을 사용하는 '정적(static)' 방식으로 구현되어 유연성을 확보했습니다.
LLM의 추론 성능을 높이는 새로운 프레임워크 'CritICL'이 개발되었습니다. 이 방식은 기존처럼 반복적인 생성이나 외부 검증에 의존하는 대신, 작은 모델들의 실패 패턴 자체를 학습 자료로 활용합니다.