모델 뉴스
미스트랄의 오픈 가중치 멀티모달 모델 'Mistral Large 4' 공개
Mistral Large 4
Hacker News미스트랄이 최고 수준의 성능을 자랑하는 오픈 가중치 기반 범용 멀티모달 모델 'Mistral Large 4'를 공개했습니다.
세 줄 요약
- 이 모델은 세밀한 전문가 혼합(MoE) 아키텍처를 채택했으며, 활성 파라미터 490억 개와 총 1조 5백만 개의 대규모 파라미터를 갖췄습니다.
- 텍스트는 물론 시각 정보까지 처리하는 멀티모달 기능을 제공하여, 개발자들이 복잡한 데이터 기반 작업을 수행할 수 있게 합니다.
- 실제 활용 시에는 16억 개의 비전 인코더가 통합되어 있으므로, 입력/출력 토큰 제한 및 데이터 유형별 최적화 검토가 필수입니다.
미스트랄이 최고 수준의 성능을 자랑하는 오픈 가중치 기반 범용 멀티모달 모델 'Mistral Large 4'를 공개했습니다.