모델 연구
Mechanistic Tomography: Designed Measurement for Control-Oriented Interpretability
ARarXiv
arXiv 논문이 기계적 해석의 여러 측정법을 하나의 측정 구조로 정리한다.
세 줄 요약
- 측정을 y=Ax+w로 놓고, 비용이 낮은 측정부터 시작해 잔차가 남으면 측정 집합을 넓히는 절차를 제시한다.
- 관측 오차가 제어 오차로 이어지는 두 HMM 결과처럼, 개입을 안내하는 추정값을 점검하는 기준이 된다.
- Tracr에서는 기준에 따라 필요한 측정 집합이 달라지고, Qwen-2.5-7B에서는 held-out error가 pairwise lifting을 지지하지 않는다.
arXiv 논문이 기계적 해석의 여러 측정법을 하나의 측정 구조로 정리한다.