MiniMax-VL-01 是什么：基于闪电注意力的多模态大模型

它是什么

MiniMax-VL-01 是 MiniMax 在 2025 年 1 月 14 日开源的多模态视觉语言模型，和纯文本模型 MiniMax-Text-01 一起构成 MiniMax-01 系列，技术报告的标题是《MiniMax-01：用闪电注意力扩展基础模型》。它以 MiniMax-Text-01 为语言底座，加上视觉编码器，再在约 5120 亿个图文多模态 token 上继续预训练，擅长高分辨率的图文理解。官方称 MiniMax-01 系列的效果可与当时的头部模型相当，同时在处理长上下文上更有优势。

底座：闪电注意力加 MoE

MiniMax-01 的核心是闪电注意力（Lightning Attention）及其高效扩展。闪电注意力是一种线性注意力，计算量随文本长度线性增长，而不是平方增长，这让超长上下文的成本大幅下降。为了最大化算力利用，MiniMax 把它和混合专家（MoE）结合：模型有 32 个专家，总参数 4560 亿，每个 token 激活 459 亿。团队还为 MoE 和闪电注意力专门优化了并行策略和计算通信重叠技术，让几千亿参数的模型能在百万 token 级的上下文上高效训练和推理。

效果是：MiniMax-Text-01 训练时上下文可达 100 万 token，推理时可以外推到 400 万 token，而且成本可以接受。这在 2025 年初是非常突出的长上下文能力。MiniMax-VL-01 继承了这个底座，所以在需要大量图像输入、长篇图文混合材料的场景里，同样有上下文长度的优势。

视觉部分

MiniMax-VL-01 采用常见的“视觉编码器加投影层加大语言模型”结构，支持动态分辨率，能按图片的实际尺寸灵活处理，看清文档、图表里的小字和细节。5120 亿 token 的继续训练，让视觉能力和底座的语言能力融合得更好。

适合谁

需要一次处理大量图片、长篇图文报告、多页扫描件的团队，可以利用它的长上下文优势；研究线性注意力在大模型上应用的研究者，MiniMax-01 的技术报告很有参考价值，它是第一批在几千亿参数规模上大规模使用线性注意力的商用模型。4560 亿总参数对自部署要求很高，多数团队走 API 更现实。后来 MiniMax 又推出了 M 系列等更新的模型。AI 主线的看法是：MiniMax-01 系列证明了线性注意力可以撑起前沿规模的模型，这条路线后来被越来越多厂商采纳。