모델 도구
온디바이스 최적화된 경량 LLM MiniCPM5-2B 공개
openbmb/MiniCPM5-2B-GGUF
Hugging FaceOpenBMB가 온디바이스 및 자원 제한 환경에 최적화된 2B급 경량 언어 모델인 MiniCPM5-2B를 공개했습니다.
세 줄 요약
- MiniCPM5-2B는 동급 오픈소스 최고 성능을 달성했으며, 코딩 추론, 수학적 사고, 장문 이해 등에서 4B급 모델과 경쟁할 만한 강력함을 입증했습니다.
- 경량화된 고성능 LLM의 등장은 모바일 기기나 엣지 환경에서도 복잡한 AI 기능을 구현 가능하게 하여 산업 활용 범위를 크게 확장할 전망입니다.
- 모델 외에도 코딩, 에이전트 학습 샘플 등이 포함된 UltraData와 같은 고품질 데이터셋을 함께 공개하며 강력한 생태계 구축에 힘썼습니다.
OpenBMB는 및 자원 제한 환경에 적합하도록 설계된 2B급 모델인 MiniCPM5-2B를 출시했습니다. 이 모델은 이전 버전인 MiniCPM5-1B의 학습 방식을 확장한 것으로, 경량화와 높은 성능을 동시에 목표로 합니다. MiniCPM5-2B는 on-device 및 edge-ai 환경에 최적화되어 개발되었으며, 2B급 최고 성능()을 달성했다고 밝혔습니다.
MiniCPM5-2B는 동급 오픈소스 모델 대비 높은 성능을 보여주며, 특히 코딩 추론, 수학적 사고, 장문 이해, 도구 사용 및 작업 등에서 4B급 모델과 경쟁할 수 있는 능력을 입증했습니다. 제공된 레이더 차트 비교 자료에서도 MiniCPM5-2B가 여러 핵심 역량 지표에서 높은 점수를 기록한 것을 확인할 수 있습니다.
모델 출시와 함께 OpenBMB는 고품질 학습 데이터셋인 UltraData 패밀리도 공개했습니다. 이에는 웹 사전 학습을 위한 [UltraX](https://huggingface.co/datasets/openbmb/UltraX-Preview) 외에도, 코딩 역량 강화를 위한 L0–L3 계층화된 코드 데이터가 포함된 [UltraData-Code], 50만 개의 에이전트 학습 샘플을 담은 [UltraData-SFT-Agent-2609] 등이 포함되어 강력한 생태계를 구축했습니다.
용어 풀이
- 온디바이스
- 서버를 거치지 않고 휴대폰이나 PC 안에서 직접 돌아가는 AI.
- 트랜스포머
- 오늘날 대부분의 언어 모델이 쓰는 신경망 구조. 문장 속 단어들의 관계를 한꺼번에 계산해요.
- 오픈소스
- 소스 코드를 공개해 누구나 보고 고치고 다시 배포할 수 있게 한 소프트웨어.
- SOTA
- State of the Art의 줄임말. 해당 분야에서 현재 가장 좋은 성능을 뜻해요.
- 에이전트
- 목표를 받으면 스스로 계획을 세우고 도구를 써서 여러 단계의 작업을 해내는 AI.