MiniCPM4 是什么：面壁智能为端侧长文本提速的小模型

它是什么

MiniCPM4 是面壁智能（OpenBMB）在 2025 年 6 月 6 日开源的端侧大模型系列，主要有 MiniCPM4-8B 和 MiniCPM4-0.5B 两个尺寸，代码和权重发布在 OpenBMB 的 GitHub 和 Hugging Face。它的定位是“极致高效”：针对手机、电脑这类端侧设备，从模型架构、训练数据、训练算法到推理系统做了全链路的效率优化，目标是在端侧也能快速处理长文本。

核心技术：可训练的稀疏注意力

端侧设备算力和内存有限，长文本是最大的难题：标准注意力的计算量随文本长度平方增长，文本一长就慢得没法用。MiniCPM4 采用了自研的 InfLLM v2 稀疏注意力：每个 token 只和一小部分最相关的历史内容计算注意力，而不是和全部历史计算。和很多只在推理时做稀疏的方法不同，InfLLM v2 是可训练的，在训练阶段就让模型学会稀疏地看上下文，所以效果损失更小。官方称在端侧芯片上处理长文本时，MiniCPM4 相比同尺寸模型有数倍的速度优势。

数据和训练

官方说 MiniCPM4 用了大约 8T token 的训练数据，比很多同档模型少，靠的是更高质量的数据筛选：团队构建了高质量的预训练数据集，并通过“模型风洞”这类小模型实验先预测训练配方的效果，减少大规模训练的试错成本。这种“用更少的数据练出同样效果”的能力，也是面壁一贯的强项。

推理系统

除了模型本身，面壁还开源了配套的端侧推理框架和量化方案，让模型在不同的端侧芯片上都能高效运行。0.5B 版本足够小，可以在资源非常有限的设备上跑起来，适合做简单的本地任务和意图识别。

适合谁

做手机助手、本地文档处理、离线问答的开发者，需要在设备上处理长文本时，MiniCPM4 的稀疏注意力很有吸引力；研究高效注意力和端侧部署的工程师，它的技术方案值得参考。如今面壁已经推出了第五代 MiniCPM5，新项目可以直接对比选用。AI 主线的看法是：MiniCPM4 抓住了端侧模型的真正痛点，在小设备上，“长文本能不能跑得动”往往比“短问答多答对几题”更重要。