CogVideoX-2B 是什么:智谱开源的轻量视频生成模型
CogVideoX-2B 模型档案:发布时间、参数与价格 →
它是什么
CogVideoX-2B 是 CogVideoX 系列里的入门款,2024 年 8 月随系列一起开源,论文作者来自清华大学和智谱 AI。官方说,开源的 CogVideoX 与智谱"清影"同源。一句话概括:这是一个 20 亿参数、用扩散 Transformer 加 3D 因果 VAE 做文生视频的轻量模型,权重公开,能放在自己的显卡上跑。
同系列还有 5B 版本,质量更高,吃的显存和时间也更多。2B 的定位是"门槛低、好折腾",官方模型卡直接称它为入门级,强调运行成本低、适合二次开发。
关键规格:20 亿参数怎么搭的
先看架构。视频先被 3D 因果 VAE 压缩,空间方向压 8×8,时间方向压 4 倍,这意味着同样一段视频变成的 token 序列短很多,训练和推理都省算力。论文里的消融实验显示,换成 3D 结构后重建出来的视频抖动明显减少。文本这边用 T5 编码,文本和视频 token 拼成一条序列,一起送进 Transformer。
Transformer 有两处设计值得说。一是"专家自适应 LayerNorm",文本和视频各用一套归一化调制,让两种差异很大的特征能放进同一个序列;二是 3D 全注意力,不把空间和时间拆开算,官方说这样对大幅度运动的一致性更友好。2B 版本共 30 层,隐藏维度 1920,位置编码用的是正弦编码,5B 版本则换成了 3D-RoPE。
再看输出规格。官方模型卡写的是:英文提示词,长度上限 226 个 token,视频 6 秒,每秒 8 帧,分辨率 720×480,不支持其他分辨率,连微调也不行。我们库里登记的 768×1360,其实是论文摘要里整个 CogVideoX 系列的能力上限(10 秒、16 帧、768×1360),并不是开源 2B 权重开箱即用的输出。选型时以模型卡为准。
许可方面,Hugging Face 上 THUDM 的 CogVideoX-2b 页面标注的协议是 Apache 2.0,对想拿去二次开发或商用的人来说门槛很低。
能力和成绩
论文用 VBench 里的几项指标做了对比,另加动态质量和 GPT-4o 评估的"变化幅度"得分。需要说明,这些数字都是论文作者团队自己测的。2B 的成绩是:人物动作 96.6,场景 55.35,动态程度 66.39,多物体 57.68,画面风格 24.37,动态质量 57.7,GPT4o-MT 得分 3.09。
挑两项最能说明问题的看。动态程度上,同表里的 Open-Sora V1.2 是 47.22,Gen-2 只有 18.89,2B 的 66.39 说明它不太爱输出"几乎不动"的画面,甚至比 5B 的 62.22 还高一点。GPT4o-MT 得分 3.09,同表里 VideoCrafter-2.0 是 2.68,说明它在画面随时间发生变化这件事上做得不差。
短板也在表里:多物体得分低于 LaVie-2 的 64.88,动态质量低于 Open-Sora V1.2 的 63.7,画面风格低于 VideoCrafter-2.0 的 25.13。另外论文里与可灵(Kling)的人工评测对比用的是 5B,2B 没有参加。
怎么用、多少钱
2B 的主要用法是本地部署,官方提供 diffusers 和 SAT 两种版本。官方模型卡给的显存参考:SAT 版 FP16 推理约 18GB;diffusers 版 FP16 在开启各种显存优化后,最低 4GB 起。模型卡还说,配合 PytorchAO、Optimum-quanto 量化,可以在免费 T4 Colab 这类小显存环境运行,代价是推理速度明显变慢。官方推荐 2B 用 FP16 推理,因为它就是用 FP16 训练的,不支持 INT4。
速度方面,按模型卡的数据,50 步推理在单张 A100 上约 90 秒,H100 上约 45 秒。论文在 H800 上测得 480×720、6 秒的视频约 49 秒、占 18GB 显存,如果拉到 768×1360,时间会涨到 220 秒、显存涨到 53GB。想微调的话,模型卡给出的 LoRA 微调显存约 47GB(batch size 1),门槛比推理高不少。
价格上,权重本身免费。官方没有为 CogVideoX-2B 单独登记 API 名称,这里不写 API 价格;你的成本主要是显卡和电费。想用官方在线服务,可以去智谱的清影,但那是商业版产品,规格和计费与开源 2B 不是一回事。
和谁比
先和亲兄弟 5B 比。5B 有 42 层、隐藏维度 3072,用 BF16 训练和推理,论文里它在多物体(70.95 对 57.68)和动态质量(69.5 对 57.7)上明显更好。代价是同样 480×720、6 秒的视频,5B 需要 113 秒、26GB,2B 只要 49 秒、18GB。换句话说,2B 用约一半的时间和更少的显存,换来中等偏上的效果。
再和同期开源模型比。对 Open-Sora V1.2,2B 在人物动作、动态程度上得分更高,动态质量却落后。对 AnimateDiff 一类基于图像模型改造的方案,2B 是从头设计的视频架构,运动幅度和一致性更占便宜,但输出更短,且只认英文。要注意,对比所用的基准是论文作者选的子集,换一套评测,名次可能变。
适合谁,有哪些坑
做内容的人,可以拿它做草稿、动态素描或短镜头灵感,6 秒、8 帧每秒、720×480 的规格决定了它更像个"动起来的样片",不是可以直接交付的成片。写代码的开发者最容易上手:diffusers 几行代码就能跑,Apache 2.0 协议也让二次开发没什么心理负担。搞选型的技术负责人则要想清楚:如果显存有 24GB 以上、对画质有要求,5B 更值得评估;如果只有消费级显卡,或者要大批量快速出图,2B 的性价比更合适。
坑也直接写在模型卡里:提示词只支持英文,中文需要先让大语言模型翻译;长度限制 226 token,所以提示词要写得具体而不是堆砌;输出分辨率固定,微调也改不了;显存优化和量化会换来明显的速度损失。另外,官方论文里提到的 10 秒、16 帧、高分辨率能力,不要默认开源 2B 就有。
AI主线的看法是:CogVideoX-2B 的价值不在单点成绩,而在于它把"能自己跑、能自己改"的视频生成门槛压到了普通开发者够得着的位置。如果你想先摸清楚开源视频模型能做到什么程度,它是个不错的起点;真要做产品,再去评估 5B 或更新的模型也不迟。