项目地址:https://github.com/OpenBMB/MiniCPM
MiniCPM5-1B 是一个参数量仅 10.8 亿(1B)的稠密 Transformer,专为端侧、本地部署和资源受限场景打造,却打出了远超同体型选手的战绩:综合实力超越 Qwen3-0.6B、Qwen3.5-0.8B 等同规模模型,目前 GitHub 已收获 10K+ Star,HuggingFace 月下载量突破 60 万。
它凭什么这么能打?答案藏在「密度定律」里——模型的能力密度大约每 3.5 个月翻一倍,同等智力水平所需的参数量持续减半。MiniCPM5-1B 正是这条定律的最佳实践:在同尺寸开源模型中达到 SOTA,平均分 42.57,高出同尺寸最强开源模型的最高平均分(35.61)近 7 分,优势集中在 Agentic 工具调用、代码与竞赛数学。
最难得的是它真的能落地。Q4 量化版仅 688MB,不需要昂贵的专业显卡,普通 CPU 服务器就能跑;INT4 版更是只有 0.5GB,一个普通软件安装包的大小,一台笔记本、一部手机、甚至一个浏览器标签页都能运行。推理后端覆盖 Transformers、vLLM、Ollama、MLX、llama.cpp、LM Studio 等 9 种,微调框架支持 LLaMA-Factory、Unsloth、XTuner 等 5 种,开发者拿来就能上手。
视频最后演示通过llama.cpp 部署 miniCPM5 1B,实测效果,并与Qwen3.5 0.8B 简单对比。
同时简单介绍与 MiniCPM 同步发布的桌宠项目,并实测体验。