MAI-Base-2
Microsoft AI 的 2.8T 参数 MoE 基础模型，激活参数 80B，已完成预训练并进入后训练。
MAI-Base-2 是 Microsoft 下一代模型的基础，并原生整合视觉预训练；这是重要研究阶段公告，不等于面向用户的正式发布或开放权重。
关键参数
- 总参数
- 2.8T
- 架构
- MoE
变更历史
- 公布Microsoft AI 公布 MAI-Base-2 的预训练已完成：2.8T 总参数、80B 激活的 MoE 基础模型进入后训练；暂无面向用户的发布或公开权重。原文 ↗