均值速度策略 MVP 是什么?一步生成机器人动作的强化学习策略
TL;DR均值速度策略(MVP)是清华、伯克利和港大团队提出的生成式强化学习策略,通过建模平均速度场实现单步动作生成,省去多步采样开销,论文被 ICLR 2026 接收。
均值速度策略(Mean Velocity Policy,MVP)是一种能一步生成动作的强化学习策略,由清华大学(车辆与运载学院、人工智能学院)、加州大学伯克利分校人工智能研究实验室(BAIR)和香港大学的研究团队共同提出,论文标题是《带瞬时速度约束的均值流策略,用于单步动作生成》,已被 ICLR 2026 接收。
背景:生成式策略的速度问题
近年来,机器人领域流行用扩散模型或流匹配这类生成模型来表示策略:把“该做什么动作”当成一个生成问题,从噪声出发逐步去噪得到动作。这类方法能表达复杂、多样的动作分布,比如一个任务有多种可行的完成方式时,它不会把几种方式“平均”成一个不可行的动作。但它们通常需要多步迭代采样才能得到一个动作,推理慢,在需要高频实时控制的机器人上是个大问题,训练时的计算开销也很大。
MVP 怎么做到一步生成
传统的流匹配学习的是每个时刻的“瞬时速度”,要沿着速度场一小步一小步地走,才能从噪声走到目标动作。MVP 改为建模“平均速度场”:直接学习从起点到终点的平均速度,于是一步就能从噪声跳到动作,彻底消除了多步采样的开销。为了解决这种建模方式缺少明确边界条件、学不准的问题,研究团队引入了“瞬时速度约束”(IVC),提升了学习的准确性和策略的表达能力。
效果
论文报告,MVP 大幅提升了训练和推理速度,平均单步推理只需要约 10.93 毫秒,并在 Robomimic 等机器人操作基准上取得了很好的表现。对机器人来说,推理快意味着可以用更高的频率感知和调整动作,动作更流畅、对环境变化的响应更及时。这类“又快又能表达复杂动作”的策略,是让生成式策略真正走向实时机器人控制的重要一步。