모델 도구
froggeric/Qwen-Fixed-Chat-Templates
HFHugging Face
이 템플릿은 Qwen 3.5, 3.6, 3.8 모델에 적용되는 범용 Jinja 템플릿으로, 공식 채팅 템플릿의 여러 오류를 수정했다.
세 줄 요약
- 기본 추론 수준을 `xhigh`에서 `medium`으로 변경하여 토큰 예산을 보존하며, 오픈AI와 앤트로픽 등 다양한 포맷의 추론 내용을 추출한다.
- 비추론 모드를 복원하고 인라인 채팅 태그를 지원해 추론 수준 제어가 가능하며, JSON 문자열로 인한 도구 호출 충돌도 방지한다.
- LM Studio, llama.cpp, vLLM 등 여러 엔진에서 사용 가능하지만, 각 환경에 맞는 설정 방법과 `--reasoning-format deepseek` 플래그 사용이 필요하다.
이 템플릿은 Qwen 3.5, 3.6, 3.8 모델에 적용되는 범용 Jinja 템플릿으로, 공식 채팅 템플릿의 여러 오류를 수정했다.