Grok-1 Base
Grok-1 的原始预训练基础权重，314B MoE，每 token 激活约 25%；不等同于 Grok 聊天模型。
Grok-1 的原始预训练基础权重，314B MoE，每 token 激活约 25%；不等同于 Grok 聊天模型。
关键参数
- 总参数
- 314B
- 架构
- MoE
- 许可证
- Apache-2.0
变更历史
- 开放权重Grok-1 Base 开放权重。原文 ↗
Grok-1 Base
Grok-1 的原始预训练基础权重，314B MoE，每 token 激活约 25%；不等同于 Grok 聊天模型。
Grok-1 的原始预训练基础权重，314B MoE，每 token 激活约 25%；不等同于 Grok 聊天模型。