모델 연구
D-FROST: Decentralized Federated pRompt-tuning via Optimal tranSporT for Non-IID and Imbalanced Data
ARarXiv
분산형 환경에서 대규모 언어 모델을 학습할 때 발생하는 프롬프트 튜닝의 비정렬화 문제를 해결하는 D-FROST 알고리즘이 제안되었습니다.
세 줄 요약
- D-FROST는 프롬프트 튜닝 과정을 바서슈타인 최적화 문제로 정의하고, 최적 수송 기반 매칭을 통해 지역별 프롬프트를 효율적으로 압축 및 통합합니다.
- 민감한 데이터를 공유하지 않고도 여러 주체가 공동으로 모델 성능을 향상시킬 수 있어, 개인정보보호가 중요한 분산 AI 시스템에 활용 가능합니다.
- 제안된 알고리즘은 이론적으로 합의 오차와 네트워크 바리센터의 수렴성을 보장하며, 이질적인 데이터 환경에서도 높은 성능을 입증했습니다.
분산형 환경에서 대규모 언어 모델을 학습할 때 발생하는 프롬프트 튜닝의 비정렬화 문제를 해결하는 D-FROST 알고리즘이 제안되었습니다.