Z

Zamba2-7B

7.4B 参数主力混合大语言模型

Zyphra· 2024-11-22 发布 ·2024-11-22 开放使用 ·语言模型 ·开源 ·Zamba 系列

Zyphra 于 2024-11-22 Zyphra 开源 Zamba2 混合状态空间大模型家族。

关键参数

参数量: 7.4B
训练Token量: 3T

同次发布

Zamba2-1.2B Zamba2-2.7B

来源

官方公告 ↗Zyphra 开源 Zamba2 混合状态空间大模型家族 ↗

Zyphra 的其他模型

Zamba2-1.2B2024-11-22 Zamba2-2.7B2024-11-22 Zamba-7B2024-05-27 BlackMamba-1.5B2024-02-01 BlackMamba-2.8B2024-02-01