모델 도구
MiniCPM5-2B 출시: 온디바이스 최적화 경량 LLM
openbmb/MiniCPM5-2B
Hugging Face온디바이스 AI에 최적화된 20억 매개변수급 경량 LLM인 MiniCPM5-2B가 출시되었습니다. 이 모델은 자원 제약 환경에서도 높은 성능을 구현하는 것이 특징입니다.
세 줄 요약
- MiniCPM5-2B는 동급 오픈소스 모델 중 최고 수준의 성능(SOTA)을 달성했으며, 특히 코딩 추론, 수학적 사고, 장문 맥락 이해 등 복합적인 에이전트 기능에서 강점을 보입니다.
- 모델 크기를 획기적으로 줄여 서버 연결 없이 스마트폰이나 엣지 기기 같은 로컬 환경에서도 고도화된 AI 기능을 구동할 수 있게 합니다.
- 모델과 함께 코딩 및 에이전트 역량 강화에 특화된 UltraData 등 고품질 학습 데이터셋 패밀리를 공개하여 개발 생태계 구축을 지원합니다.
MiniCPM5-2B는 MiniCPM5 시리즈의 두 번째 모델로, 20억 (2B) 규모의 밀집 입니다. 이 모델은 및 자원 제약 환경에 최적화되어 개발되었으며, 2B급 성능을 목표로 합니다.
성능 면에서 MiniCPM5-2B는 유사한 크기의 오픈소스 모델들 사이에서 최고 수준의 성능(SOTA)을 달성했습니다. 특히 코딩, 수학적 추론, 장문 맥락 이해, 도구 사용 및 작업과 같은 복합적인 기능 영역에서 강점을 보이며 4B급 모델과도 경쟁력을 갖추고 있습니다.
모델 출시와 함께 고품질 학습 데이터셋 패밀리인 UltraData가 공개되었습니다. 이에는 웹 사전 학습을 위한 [UltraX], 코딩 역량 강화를 위해 L0–L3 계층형 코드 데이터 관리 기능을 갖춘 [UltraData-Code] 등이 포함됩니다. 또한, 온디바이스 에이전트 능력을 향상시키기 위한 50만 개의 에이전트 훈련 샘플을 담은 [UltraData-SFT-Agent-2609]와 수학, 코드 등 고품질 RL 훈련 샘플을 제공하는 [UltraData-RL-2609]도 포함됩니다.
용어 풀이
- 매개변수
- 모델이 학습하면서 조정한 내부 숫자. 개수가 많을수록 대체로 모델이 크고 무거워요.
- 트랜스포머
- 오늘날 대부분의 언어 모델이 쓰는 신경망 구조. 문장 속 단어들의 관계를 한꺼번에 계산해요.
- 온디바이스
- 서버를 거치지 않고 휴대폰이나 PC 안에서 직접 돌아가는 AI.
- 오픈소스
- 소스 코드를 공개해 누구나 보고 고치고 다시 배포할 수 있게 한 소프트웨어.
- SOTA
- State of the Art의 줄임말. 해당 분야에서 현재 가장 좋은 성능을 뜻해요.
- 에이전트
- 목표를 받으면 스스로 계획을 세우고 도구를 써서 여러 단계의 작업을 해내는 AI.