Mistral AI 发布开源 MoE 架构模型 Mixtral 8x7B
Mistral AI 发布 Mixtral 8x7B 模型，采用稀疏混合专家架构，总参数量约 46.7B，每个 token 激活约 12.9B 参数。
- 公告日期
- 2023-12-11
- 开放使用日期
- 与公告日期相同
- 厂商
- Mistral AI
- 模态
- 语言
- 核实状态
- 已核实
AI 发布时间线
Mistral AI 发布 Mixtral 8x7B 模型，采用稀疏混合专家架构，总参数量约 46.7B，每个 token 激活约 12.9B 参数。