资讯

dots.tts 是什么:小红书开源的 2B 语音合成模型

2026-11-042 分钟阅读百科
TL;DRdots.tts 是小红书 hi lab 在 2026 年 6 月发布的 2B 参数连续自回归语音合成基础模型,在连续潜空间里建模语音,支持声音克隆,首包延迟低至 54 毫秒。

它是什么

dots.tts 是小红书 hi lab 团队在 2026 年 6 月发布的开源语音合成(TTS)基础模型,参数 2B,模型仓库是 rednote-hilab/dots.tts。它属于连续自回归 TTS:不像很多模型那样先把语音切成离散的 token 再预测,而是直接在连续的潜空间里逐步生成语音,再用流匹配(flow matching)模块输出声学细节。团队同时开源了训练和推理代码,以及预训练和后训练的模型。

三个关键设计

技术报告里总结了三点创新。第一,用多个训练目标训练了一个 AudioVAE,构建出既有语义结构、又便于预测的连续语音空间,这决定了后面自回归生成的难度。第二,在流匹配头里使用完整历史作为条件,保持长语音的前后一致,减少生成过程中的音色和韵律漂移。第三,对流匹配头做无奖励的自我纠正后训练,进一步提升鲁棒性和音质。

成绩怎么样

在常用的 Seed-TTS-Eval 评测上,dots.tts 取得了论文里最好的平均成绩:中文、英文、中文困难集三个测试集上的词错率分别是 0.94%、1.30% 和 6.60%,说话人相似度分别是 81.0、77.1 和 79.5。词错率衡量合成语音被识别回文字时的准确度,越低越好;相似度衡量克隆出的声音和参考音色像不像,越高越好。论文称它在其他基准上也表现出开源模型中最好的水平,生成稳定、声音克隆能力强、情感表现力好。

速度

为了实时使用,团队做了考虑无分类器引导(CFG)的 MeanFlow 蒸馏,大幅减少采样步数。结果是首包延迟在输出流式模式下为 85 毫秒,在输入输出双流式模式下为 54 毫秒,已经能满足实时对话的要求。

适合谁

做有声内容、配音、语音助手、数字人的开发者,可以把它当成一个可自托管的中英文 TTS 底座;需要低延迟流式输出的实时对话场景尤其合适。声音克隆能力很强,使用时要注意取得声音所有者的授权,不能用于冒充他人。AI 主线的看法是:dots.tts 证明了连续潜空间这条技术路线在中文 TTS 上能做到很高的水准,2B 的体量对本地部署也很友好。