활용 사례 연구
The Latent Diagnostic Taxonomy: A Framework for Constructing Classifiers and Diagnosing Their Decisions, Applied to Prompt Injection Detection
ARarXiv
본 논문은 분류기 구축 및 결정 진단에 활용하는 '잠재적 진단 분류 체계(Latent Diagnostic Taxonomy)'를 제안했다.
세 줄 요약
- 이 체계는 차원 최적화된 분류기, 영향력 있는 프롬프트의 잠재 벡터 위치, 그리고 이를 이용한 진단 분류체계를 포함한다.
- 분석 결과, 공개 프롬프트 주입 데이터셋으로 학습한 분류기의 자신감 있는 결정 중 약 77%가 단일 토큰 제거에 취약함을 발견했다.
- 진단 체계는 분류기 의존, 휴리스틱 편향/오버라이드 플래그 지정, 불충분한 컨텍스트 케이스 라우팅을 안내한다.
본 논문은 분류기 구축 및 결정 진단에 활용하는 '잠재적 진단 분류 체계(Latent Diagnostic Taxonomy)'를 제안했다.