리서치 연구
AQLoRA: A Zero-Search Recipe for Fast Quantized LoRA Fine-Tuning
ARarXiv
AQLoRA는 기존의 양자화 미세 조정(QLoRA)이 가진 속도 문제를 해결하는 새로운 LoRA 학습 방법을 제시했다.
세 줄 요약
- AQLoRA는 CPU 패스를 통해 레이어를 NF4 재구성 오류로 순위화하고, 상위 K개만 fp16으로 유지하여 속도를 높인다. Speed 설정은 QLoRA보다 11.1 +/- 2.7% 빠르다.
- Speed 설정을 사용하면 정확도가 약 한 포인트 낮아지지만, Quality 설정은 추가 메모리(0.2 GiB)를 사용하는 대신 QLoRA와 동등한 정확도를 유지한다.
- 어댑터 레이어를 가중치 밀도로 선택하거나 양자화 오류로 보호하는 것은 무작위 선택보다 성능이 좋지 않다. 측정 시에는 스텝 카운트가 아닌 지속 시간을 고정해야 한다.
AQLoRA는 기존의 양자화 미세 조정(QLoRA)이 가진 속도 문제를 해결하는 새로운 LoRA 학습 방법을 제시했다.