Z

Zamba2-1.2B

1.2B 轻量级 Mamba2 混合架构模型

Zyphra· 2024-11-22 发布 ·2024-11-22 开放使用 ·语言模型 ·开源 ·Zamba 系列

Zyphra 于 2024-11-22 Zyphra 开源 Zamba2 混合状态空间大模型家族。

关键参数

参数量: 1.2B
混合架构: Mamba2-Transformer

同次发布

Zamba2-2.7B Zamba2-7B

来源

官方公告 ↗Zyphra 开源 Zamba2 混合状态空间大模型家族 ↗

Zyphra 的其他模型

Zamba2-2.7B2024-11-22 Zamba2-7B2024-11-22 Zamba-7B2024-05-27 BlackMamba-1.5B2024-02-01 BlackMamba-2.8B2024-02-01