모델 연구
Quantization-Triggered Backdoors in Language Models: Cross-Quantizer Transferability and the Validation--Deployment Gap
ARarXiv
LLM을 엣지 기기에 배포하는 양자화 과정에서, 원본 성능 검증만으로는 막기 어려운 새로운 형태의 백도어 공격이 가능하다는 연구가 발표되었습니다.
세 줄 요약
- 모델이 고정밀도 테스트를 통과해도, INT8이나 4비트 같은 저정밀도로 압축될 때 최대 85%에 달하는 정보 왜곡 및 편향성 변화가 발생할 수 있습니다.
- 단순한 성능 최적화로 여겨지던 양자화 과정이 모델의 행동을 근본적으로 변화시키는 심각한 보안 취약점이 될 수 있어 신뢰성 확보가 시급합니다.
- 공격 지속성은 비트 폭뿐 아니라 양자화 방식과 모델 구조에 따라 달라지므로, 배포 전 전체 라이프사이클에서의 행동 검증이 필수적입니다.
LLM을 엣지 기기에 배포하는 양자화 과정에서, 원본 성능 검증만으로는 막기 어려운 새로운 형태의 백도어 공격이 가능하다는 연구가 발표되었습니다.