모델 도구
elder-plinius/OBLITERATUS
GIGitHub
OBLITERATUS는 거대 언어 모델의 거절 행동을 찾아 제거하는 오픈소스 도구입니다.
세 줄 요약
- 모델 재학습 없이 SVD, PCA, 희소 오토인코더 등으로 거절 방향을 추출해 추론 시 제거하거나 방향을 돌립니다.
- HuggingFace Spaces에서 설치 없이 실행하고, 원본과 결과를 나란히 비교하며, telemetry를 켜면 공동 연구 자료로 들어갑니다.
- 도구는 안전 가드레일을 제거한 모델을 만들며, 사용자는 생성 결과와 책임에 대해 전적으로 판단해야 합니다.
OBLITERATUS는 거대 언어 모델의 거절 행동을 찾아 제거하는 오픈소스 도구입니다.