모델 도구
p-e-w/heretic
GIGitHub
Heretic은 값비싼 후처리 과정 없이 트랜스포머 기반 언어 모델에 적용된 검열(안전 정렬)을 자동으로 제거하는 도구입니다.
세 줄 요약
- 방향성 소거 기법과 최적화기를 결합하여, 거부율은 낮추면서도 원본 모델의 지능 손실(KL 발산)을 최소화합니다.
- 복잡한 내부 구조를 알 필요 없이 간단한 명령어만으로 고품질의 비검열 모델을 얻을 수 있어 활용도가 매우 높습니다.
- 대부분의 밀집 및 멀티모달 모델을 지원하며, 고급 연구 기능도 제공하지만 일부 아키텍처는 아직 제한적입니다.
Heretic은 값비싼 후처리 과정 없이 트랜스포머 기반 언어 모델에 적용된 검열(안전 정렬)을 자동으로 제거하는 도구입니다.