AI 정책 연구
Does Marginal Coverage Guarantee Class-Conditional Safety for Zero-Shot VLMs Under Shift?
ARarXiv
제로샷 VLM의 거절 판단에 쓰이는 스플릿 conformal 예측의 마진널 커버리지가 클래스별 안전성을 보장하지 않는다고 점검했다.
세 줄 요약
- ImageNet-Sketch에서 마진널 커버리지는 약 0.86인데 최악 클래스 커버리지는 약 0으로 떨어지고, 10~12% 클래스가 유한 표본 null 하한 아래로 내려갔다.
- 마진널 커버리지가 높게 유지돼도 특정 클래스의 커버리지는 크게 떨어지므로, 제로샷 VLM의 거절 판단을 설계할 때 클래스별 꼬리를 함께 봐야 한다.
- 대상 클래스별 보정은 꼬리를 크게 높이지만 모든 클래스 라벨이 필요하고 세트 크기에 부담이 크다.
제로샷 VLM의 거절 판단에 쓰이는 스플릿 conformal 예측의 마진널 커버리지가 클래스별 안전성을 보장하지 않는다고 점검했다.