활용 사례 연구
Curved Inference II: Sleeper Agent Geometry - Extending Interpretability Beyond Probes
ARarXiv
기존의 선형 탐지 방식 대신 곡선 추론 프레임워크를 사용해 기만적 정렬을 해석하는 방법을 제시했다.
세 줄 요약
- 다중 턴 컨텍스트 창을 활용한 자연스러운 방법론과 의미 표면적(A')이라는 새로운 지표를 도입하여 잔여 공간에서의 의미 변화의 크기와 방향성을 포착한다.
- 복잡한 추론 과정 자체가 기하학적 패턴을 생성하며, 이는 모델이 속임수의 선형 지표를 억제해도 지속된다는 것을 보여준다.
- 백도어나 레이블 없이 자연스러운 프롬프트에 적용했으며, 다섯 가지 프롬프트 전략과 두 모델 계열에서 의미 표면적의 통계적으로 유의미한 차이를 확인했다.
기존의 선형 탐지 방식 대신 곡선 추론 프레임워크를 사용해 기만적 정렬을 해석하는 방법을 제시했다.