모델 연구
SharedSAE: One Feature Dictionary Across Language Models
ARarXiv
언어 모델의 내부 작동 방식을 해석하는 희소 오토인코더(SAE)는 기존에 모델마다 개별적으로 학습시키는 비효율성이 있었습니다. 연구진은 이 문제를 해결하기 위해 단일 공유 사전(Shared Dictionary)을 활용한 '공유 SAE'를 제안했습니다.
세 줄 요약
- 이 방법은 여러 모델의 지식을 하나의 사전에 통합하여, 개별 SAE가 설명하던 분산의 96.6%를 유지하면서도 모델 간 상관관계를 기존 방식보다 1.8배 높게 끌어올리는 성과를 보였습니다.
- 모델마다 해석 도구를 새로 만들 필요가 없어 연구 자원과 시간을 크게 절약할 수 있으며, 공유된 지식을 바탕으로 새로운 언어 모델에도 효율적으로 적용 가능합니다.
- SharedSAE는 활성화 크기를 보존하고 단일 모델 추론 시에는 모델 드롭아웃을 사용해 기존 방식의 한계를 극복했습니다. 다만, 사전을 고정한 후 새 모델에 적응시키는 과정이 필요합니다.
언어 모델의 내부 작동 방식을 해석하는 희소 오토인코더(SAE)는 기존에 모델마다 개별적으로 학습시키는 비효율성이 있었습니다. 연구진은 이 문제를 해결하기 위해 단일 공유 사전(Shared Dictionary)을 활용한 '공유 SAE'를 제안했습니다.