최적 수송 기반 모델 인지 스케줄링으로 생성 성능 향상
Model-Aware Schedules Improve Generation via Fiberwise Optimal Transport
arXiv생성 모델의 성능을 높이기 위해 '모델 인지형 스케줄링' 기법이 개발되었습니다. 이 방법은 최적 수송(Optimal Transport) 개념을 활용하여 데이터와 노이즈 혼합 과정을 정교하게 제어합니다.
- 기존 방식과 달리 예측 오차를 반영해 모델별로 최적의 시간 할당을 계산했습니다. 그 결과, 흐름 매칭(flow matching)에서 CIFAR-10에 대해 FID 점수를 38.6% 개선하는 성과를 달성했습니다.
- 단순 성능 향상을 넘어, 학습 과정에서 놓치기 쉬운 '예측 위험'까지 고려하여 안정적이고 고품질의 결과물을 얻는 기반 기술을 제시했다는 점에서 중요합니다.
- 다양한 모델 및 데이터셋에서 우수한 범용성을 보이며, 심지어 추가적인 위험 추정 없이도 기본적인 분석적 템플릿만으로 성능 개선 효과를 유지할 수 있습니다.
기존의 확산(Diffusion) 및 흐름 매칭(flow-matching) 스케줄은 데이터와 노이즈 혼합 과정을 제어하지만, 예측 오차를 고려하지 못하는 한계가 있었습니다. 본 연구는 섬유별 최적 수송(fiberwise optimal transport)을 기반으로 모델 인지형 스케줄링 방식을 도입했습니다. 이 방식에서는 확률 경로상의 특정 시간과 상태에서 호환 가능한 신호/노이즈 분해를 아핀 섬유로 정의하고, 이를 통해 섬유별 예측 위험(fiberwise prediction risk)을 계산합니다.
계산된 예측 위험을 계수 경로의 운동 에너지 작용(kinetic action)과 결합하면 폐쇄형 공식으로 최적 시간 할당이 가능하며, 이는 일반적인 선형 예측 목표에도 확장됩니다. 연구진은 DDPM 및 흐름 매칭 모델에 대해 다양한 설정에서 평가를 진행했으며, 그 결과 모델 인지 스케줄링 방식이 기존의 강력한 기준선(strong baselines)보다 일관되게 우수한 성능을 보였습니다.
구체적으로 CIFAR-10 데이터셋에서 흐름 매칭을 적용했을 때 16개의 함수 평가만으로 상대 FID 점수를 38.6% 감소시키는 성과를 달성했습니다. 또한, 이 모델 인지 스케줄링의 위험 프로파일은 독립적으로 학습된 여러 모델 및 설정에서도 정규화 시 유사하게 정렬되는 경향을 보여 경험적 보편성을 입증했습니다. 심지어 추가적인 위험 추정이나 모델별 피팅 없이도 고정된 분석적 할당 템플릿만으로 대부분의 성능 개선 효과를 유지할 수 있었습니다.