小

dots.llm1-142B

11.2T 无合成真实语料预训练 MoE 模型

小红书 hi lab· 2025-06-06 发布 ·2025-06-06 开放使用 ·语言模型 ·开源 ·dots 系列

小红书 hi lab 于 2025-06-06 小红书开源 142B 混合专家语言模型 dots.llm1。

关键参数

总参数量: 142B
激活参数量: 14B
上下文窗口: 32K

来源

官方公告 ↗小红书开源 142B 混合专家语言模型 dots.llm1 ↗

小红书 hi lab 的其他模型

dots.tts-2B2026-06-09