레이블 없는 데이터로 컨포멀 보정 전이하는 방법 연구
Conformal Calibration Transfer
arXiv신뢰성 보장 방식인 컨포멀 예측을 다른 환경에 적용하기 위해, 소스 데이터를 타겟 공간으로 옮기고 오차를 수정하는 '전송형 컨포멀 보정(TCC)' 기법이 제안되었습니다.
- 이 기법은 소스 공간에서 얻은 지식을 전이시킨 후, 쌍으로 연결된 레이블 없는 타겟 데이터를 이용해 잔여 불일치를 보정하는 것이 핵심 원리입니다.
- 따라서 타겟 도메인에 대한 레이블 데이터 확보가 어려운 새로운 센서나 모달리티 변화 환경에서도 안정적인 성능 전이가 가능합니다.
- 다만, 정확한 신뢰도 보장을 위해서는 소스-타겟 데이터 간의 불일치(mismatch) 정도를 측정하는 진단 지표가 필수적으로 요구됩니다.
컨포멀 예측(Conformal prediction)은 점 예측을 커버리지 보장이 가능한 집합 값 예측으로 변환합니다. 이 기법의 핵심 과제는 레이블링된 보정 데이터가 소스 공간에만 존재할 때, 쌍으로 연결된 비레이블 데이터를 통해 타겟 공간으로 예측 집합을 전이하는 것입니다. 기존 방식으로는 이러한 요구사항 충족이 어렵습니다.
연구진은 '전송형 컨포멀 보정(Transported Conformal Calibration, TCC)' 기법을 제안했습니다. 이 방법은 먼저 쌍 데이터(paired data)를 사용하여 레이블링된 소스 보정을 타겟 공간으로 전이시키고, 이후 오직 비레이블 타겟 입력만을 이용해 잔여 전이 불일치(mismatch)를 수정합니다.
TCC는 두 가지 상호 보완적인 방법으로 이 수정을 구현합니다. 첫째, 레이블 없는 불확실성 대리 변수(label-free uncertainty surrogate)를 사용하여 불일치를 감지하고 보정을 수행하는 TCC-KS 방식이 있습니다. 둘째, 기반의 TCC는 안정적인 가중치가 있을 때 타겟 도메인 쪽으로 전이된 보정값을 재가중하여 효율성을 높입니다.
연구 결과에 따르면, 이 방법은 관찰 가능한 불일치 측정치를 반영하는 유한 표본 타겟 도메인 커버리지 보장을 제공합니다. CIFAR-100-C, Tiny-ImageNet-C, SEN12MS 등에서 성능을 입증했습니다.
용어 풀이
- 가중치
- 학습으로 정해진 모델 내부의 숫자 값. 내려받는 모델 파일의 본체예요.