리서치 연구
확산 모델 샘플링 가속화: 추측 드래프트 트리 활용
Accelerating Diffusion Sampling via Speculative Draft Trees
arXiv확산 모델의 샘플링 속도 제한 문제를 해결하기 위해 '추측 드래프트 트리(Speculative Draft Trees)'라는 새로운 가속화 기법이 제안되었습니다.
세 줄 요약
- 기존 방식이 가진 선형적 후보군 탐색 한계를 극복하고 트리를 활용해 탐색 범위를 확장함으로써, 기준 대비 최대 8.3%의 샘플링 속도 향상을 달성했습니다.
- 고품질 이미지 생성의 핵심인 확산 모델의 효율성을 높여, 대규모 AI 서비스에서 빠르고 안정적인 콘텐츠 생성이 가능해집니다.
- 상대 엔트로피 코딩(REC) 기반으로 정확한 샘플링을 보장하는 것이 특징이나, 실제 성능은 사용되는 모델 및 환경에 따라 달라질 수 있습니다.
기존의 샘플러는 반영 최대 결합(reflection maximal coupling) 기반 등에서 위상적으로 제약되어 있어, 후보군 탐색이 단일 선형 시퀀스에 국한되는 한계가 있었습니다. 이러한 구조적 제약은 타겟 평가당 수용률을 제한하는 원인이었습니다.
본 연구는 확산 모델의 추측 샘플링(speculative sampling)을 상대 엔트로피 코딩(Relative Entropy Coding, REC)과 연결하여, 후보군 탐색이 반드시 선형적일 필요가 없음을 보여줍니다. 이를 바탕으로 '드래프트 트리'를 제안하며, 이 트리는 라운드당 고려되는 후보군을 풍부하게 하여 타겟 함수 평가 횟수를 줄이는 역할을 합니다.
연구진은 REC 알고리즘 중 하나인 탐욕적 기각 샘플링(greedy rejection sampling)을 드래프트-타겟 결합으로 채택하여 수용률을 개선하고 정확한 타겟 샘플을 보장합니다. 다양한 모델 환경에서 실험 결과, 기존 반영 결합 기준 대비 최대 8.3%의 가속화가 확인되었습니다.
용어 풀이
- 확산 모델
- 잡음에서 시작해 조금씩 다듬으며 이미지나 영상을 만들어 내는 생성 모델.