Hy4 preview
腾讯混元新一代 770B MoE 旗舰预览,49B 激活、1M 上下文,面向编码、办公分析、游戏开发与科研。
Hy4 preview 扩大了模型规模、上下文与训练数据,并将 Gated DSA、IndexCache、iHC 与原生 MTP 带入 Hy 的开放模型主线。
关键参数
- 上下文窗口
- 1M
- 总参数
- 770B
- 架构
- MoE
- 许可证
- Apache-2.0
版本谱系
变更历史
- 开放权重腾讯发布并开源 Hy4 preview。原文 ↗
腾讯混元新一代 770B MoE 旗舰预览,49B 激活、1M 上下文,面向编码、办公分析、游戏开发与科研。
Hy4 preview 扩大了模型规模、上下文与训练数据,并将 Gated DSA、IndexCache、iHC 与原生 MTP 带入 Hy 的开放模型主线。