리서치 연구
언어 모델 자가 복구: 카운터웨이트와 인과적 분석
Every Ablation Is a Dose: Counterweights and the Semblance of Self-Repair
ARarXiv
언어 모델의 구성 요소를 제거했을 때 나타나는 '자가 복구' 현상이 무작위적인 보정이 아님을 밝히고, 예측 가능한 수학적 법칙이 작용함을 보여줍니다.
세 줄 요약
- 연구진은 자가 복구 반응이 '어피니어 법칙'을 따르며, 그 정도는 모델 구조에 내재된 고정 계수($\gamma_r$)에 의해 결정됨을 규명했습니다.
- 이는 자가 복구를 단순한 '보정'이 아닌, 모델 내부에 존재하는 구조적 가중치(카운터웨이트)의 일반적인 작동 과정으로 해석하게 하는 중요한 통찰을 제공합니다.
- 다만 이 분석은 구성 요소 제거를 통한 인과적 추론에 기반하며, 특정 모델의 작동 원리를 설명하는 데 유용하지만 모든 상황에 보편적으로 적용되는 법칙은 아닙니다.
언어 모델의 구성 요소를 제거했을 때 나타나는 '자가 복구' 현상이 무작위적인 보정이 아님을 밝히고, 예측 가능한 수학적 법칙이 작용함을 보여줍니다.