S

SparseLM 0.5B

基于 ReLU 激活稀疏化训练的 5 亿参数极轻量语言模型。

Sakana AI· 2026-03-23 发布 ·2026-03-23 开放使用 ·语言模型 ·开源 ·SparseLM 系列

Sakana AI 于 2026-03-23 Sakana AI 开源 SparseLM 稀疏激活语言模型系列。

关键参数

参数量: 0.5B

同次发布

SparseLM 1B SparseLM 1.5B SparseLM 2B

来源

官方公告 ↗Sakana AI 开源 SparseLM 稀疏激活语言模型系列 ↗

Sakana AI 的其他模型

Fugu Max2026-09-11 Fugu Ultra v22026-09-11 Sakana Namazu2026-08-11 Sakana Fugu2026-06-22 Kame 8B2026-04-09 SparseLM 1B2026-03-23