활용 사례 연구
SCULPT: Training Edge Vision Models for Post-Training Quantization Readiness
ARarXiv
자원 제한적인 환경의 엣지 비전 모델을 위한 양자화(Quantization) 배포 문제를 해결하는 새로운 훈련 기법 'SCULPT'가 개발되었습니다.
세 줄 요약
- SCULPT는 활성화 분포의 불안정성을 줄이는 정규화와 통계적 클리핑을 결합하여, 모델이 저비트 환경에 최적화되도록 일반적인 훈련 과정에서 준비도를 높입니다.
- 기존 복잡한 QAT 방식과 달리, SCULPT는 추가적인 변환이나 복잡한 과정을 거치지 않고도 배포에 필요한 경계값을 학습하여 효율성을 극대화합니다.
- SCULPT는 훈련 중 양자화를 모방하지 않아 구현이 간편하며, 학습된 클리핑 경계값은 INT8 등 다양한 저비트 설정의 표준 PTQ 워크플로우에 직접 활용 가능합니다.
자원 제한적인 환경의 엣지 비전 모델을 위한 양자화(Quantization) 배포 문제를 해결하는 새로운 훈련 기법 'SCULPT'가 개발되었습니다.