Ministral 3B 是什么：Mistral 为端侧设计的小模型

它是什么

Ministral 3B 是 Mistral AI 在 2024 年 10 月 16 日发布的端侧语言模型，和 Ministral 8B 一起合称“les Ministraux”。发布日正好是 Mistral 7B 发布一周年。它只有 3B 参数，支持最长 128K 上下文（发布时在 vLLM 上是 32K），专门面向在设备本地和网络边缘运行的场景，API 型号是 ministral-3b-2410。

为什么要做这么小的模型

官方说，越来越多的客户需要本地化、隐私优先的推理，比如设备上的离线翻译、不联网的智能助手、本地数据分析和自主机器人。这些场景要的是低延迟、省算力，而不是尽可能高的能力上限。Ministral 3B 就是为这类需求设计的：小到能放进手机和嵌入式设备，又保留了不错的知识、常识、推理和函数调用能力。

另一个用法是给大模型打下手。官方建议在多步智能体工作流里，把 Ministral 和 Mistral Large 这样的大模型搭配：小模型负责解析输入、路由任务、根据用户意图调用 API，大模型负责真正需要深度推理的部分。小模型延迟低、单价低，处理这些高频的小活很划算。

成绩怎么样

官方用自己的评测框架，把 Ministral 3B 和 Gemma 2 2B、Llama 3.2 3B 以及更大的 Mistral 7B 放在一起比较，覆盖知识、常识、推理、代码、多语言等多个类别。官方的结论是：在 10B 以下这个档位，Ministral 3B 多数项目表现更好，甚至在一些项目上超过了参数大一倍多的 Mistral 7B。这些是官方自测成绩，第三方复现结果会因评测设置不同而有差异。

怎么用、怎么授权

Ministral 3B 发布当天就上线了 Mistral 的 la Plateforme API，并陆续登上各大云平台。授权上要注意：它走的是 Mistral 的商业授权，本地自托管需要另外联系官方取得许可，并没有像 Mistral 7B 那样以宽松协议公开权重；同时发布的 Ministral 8B 则提供了研究许可下的权重。

适合谁

做端侧应用、对延迟和隐私敏感的团队，可以把它当作候选；做智能体系统的，可以拿它承担路由和工具调用这类轻量环节，压低整体成本。如果你要的是开箱即用、可以随便下载部署的小模型，那它的授权方式就不太方便。AI 主线的看法是：Ministral 3B 代表了小模型的一条清晰思路，不追求全能，专心把“便宜、快、能跑在设备上”做好。