모델 연구
What Can Low Resource Languages Learn From Each Other?
ARarXiv
거대 비전-언어 모델(VLM)이 고자원 언어에 편중되어 전 세계 소수 언어가 디지털 격차를 겪는 문제를 해결하기 위해, 데이터 효율적인 프레임워크 PSMC가 제안되었습니다.
세 줄 요약
- PSMC는 각 언어별 전문 지식(Expert)을 추출한 후 이를 통합된 다국어 백본으로 결합하는 방식을 사용하며, 파라미터 증가 없이도 인식률이 평균 2% 향상되는 성과를 입증했습니다.
- 이는 지식 전이 효과를 활용하여 소수 언어 환경에서도 고성능 VLM을 구축할 수 있는 실질적이고 확장 가능한 길을 열어준다는 점에서 큰 의미가 있습니다.
- 초기 평가는 10개의 인도 스크립트(20개 이상 언어 지원)를 통해 이루어졌으며, 관련 소스 코드와 데이터셋은 추후 공개될 예정입니다.
거대 비전-언어 모델(VLM)이 고자원 언어에 편중되어 전 세계 소수 언어가 디지털 격차를 겪는 문제를 해결하기 위해, 데이터 효율적인 프레임워크 PSMC가 제안되었습니다.