月

Moonlight-16B-A3B

基于 Muon 优化器训练的 16B 总参数、3B 激活参数开源 MoE 语言模型。

月之暗面· 2025-02-24 发布 ·2025-02-24 开放使用 ·语言模型 ·开源 ·Moonlight 系列

月之暗面于 2025-02-24 月之暗面开源 MoE 语言模型 Moonlight。

关键参数

总参数量: 16B
激活参数量: 3B
优化算法: Muon

来源

官方公告 ↗月之暗面开源 MoE 语言模型 Moonlight ↗

月之暗面的其他模型

Kimi K3.1 Pro2026-10-24 Kimi K2.8 Preview2026-09-11 Kimi K32026-07-16 Kimi K2.7 Code2026-06-12 Kimi K2.62026-04-20 Kimi K2.52026-01-27