모델 도구
JonathanColetti/Qwen3.8-27B-Uncensored-GGUF
HFHugging Face
대규모 언어 모델 Qwen3.8-27B의 비검열(Uncensored) GGUF 버전을 공개했습니다. 이 버전은 거부 동작을 크게 줄여 활용 범위를 넓혔습니다.
세 줄 요약
- IQ2_M부터 Q8_0까지 다양한 비트 깊이의 양자화 모델을 제공하여, 낮은 VRAM 환경에서도 고성능 LLM 구동이 가능합니다.
- 기존 모델 대비 거부 동작이 현저히 감소하여 더욱 자유로운 주제의 콘텐츠 생성에 활용할 수 있으며, 양자화로 접근성도 높였습니다.
- 다만, 낮은 비트 양자화는 성능 저하를 유발할 수 있으며, 제시된 Perplexity 값은 추론 능력이나 검열 해제 정도를 직접 나타내지 않음에 유의해야 합니다.
대규모 언어 모델 Qwen3.8-27B의 비검열(Uncensored) GGUF 버전을 공개했습니다. 이 버전은 거부 동작을 크게 줄여 활용 범위를 넓혔습니다.