BlackMamba-1.5B
Z

BlackMamba-1.5B

Mamba 与 MoE 结合的线性复杂度模型

Zyphra· 2024-02-01 发布 ·2024-02-01 开放使用 ·语言模型 ·开源 ·BlackMamba 系列

Zyphra 于 2024-02-01 Zyphra 开源 BlackMamba 状态空间专家混合模型。

关键参数

总参数量
1.5B
激活参数量
340M

同次发布

来源