Ai2 开源 ToyBlocks,给机器人学习造了个培养皿
机器人叠衣服、分拣零件的视频,大伙应该没少刷。看着都挺丝滑,可有个问题几乎没人答得上:它到底学会了啥,翻车又是因为啥?
11 月 6 日,Ai2 发布并开源了 ToyBlocks,一个只有机械臂和桌面积木的仿真环境。Ai2 把这类受控的小世界统称为 FoundationWorlds,ToyBlocks 是打头的一个。我们 AI主线 的看法是:ToyBlocks 不是又一个刷分榜单,而是一套让机器人研究能做对照实验的开源实验台,价值在于能把失败拆开看原因,不在积木本身。
为啥偏偏选了一堆积木?
Ai2 打的比方是培养皿和玻璃箱:生物学家先在小环境里调条件、看反应,机器人研究也该能改训练数据、重复测试、追到失败的源头。
官方的理由是,开放场景要建模的物体和交互太多,逼真物理、批量生成任务、推理加灵巧、覆盖面广这四条没法同时满足。桌面加积木够窄,四条能一起做到。
别小看这些积木。每个面上有字母和图案,机器人得先把块翻过来,看到藏起来的那面,才知道该放哪。积木大小、桌面高度还会逐场景随机变化。
放进 Ai2 自己的路线里看更有意思。今年 2 月他们放出 MolmoSpaces,23 万多个室内场景、13 万多个物体模型;3 月的 MolmoBot 又拿出纯仿真训练、零样本上真机的结果。那两次是往大了卷,这次反过来往小处收。我的判断是补课:场景铺得再大,没有一个能控制变量的小实验室,也说不清到底是哪个因素在起作用。
演示数据不靠人遥控,怎么攒出来的?
遥控就是真人拿设备远程操作机器人,又贵又慢。ToyBlocks 换了个路子:在英伟达开源的 Isaac Lab 里,用强化学习加运动规划练出推、翻这类短任务技能,再由任务与运动规划器把技能串成完整任务,跑一遍就是一条演示。
能这么玩,是因为仿真器自己知道积木的精确位置和朝向,练技能时等于开卷;到训练模型的环节,再只给摄像头画面,逼它自己看。
官方说,单块 GPU 上能并行跑几百个计划,最高到实时速度的 24 倍。首批放出 85,336 条长程演示,折合约 1,600 小时的机器人执行记录,另附基于 Molmo 2 和 ManiFlow 的两个模型,训练与评测代码也一起给了。Ai2 还说几周后会出更大的第二批,加更多技能和完整的强化学习训练。
Ai2 自己晒的成绩单,反倒挺老实
先说坏消息。Ai2 拿 ManiFlow、π0.5 和 MolmoAct 2 测了新位置、新堆叠高度下的泛化,初步结果是都不太行,他们自己的说法是动作模型的泛化远没解决。大规模预训练不等于换个摆法就能用,这个判断我觉得挺扎实。
再看真机。单个技能的成功率,仿真 80.0%,真机 81.1%,几乎一致。但"高层模型加低层模型"的组合系统,仿真 55.5%,真机 50.0%,而且真机只跑了 30 场,Ai2 自己也说还需要更多试验才谈得上统计置信。(当个信号看就行,别当定论。)
还有一组让我多看了两眼。Ai2 用 Claude Opus 5.5 通过 MCP 控制机械臂,搜积木、拼单词,经典的积木堆叠规划任务 30 道全对,可一落到看图环节就露怯,不少失误出在认错相近字母和摆错方向上。规划没毛病,眼睛不太灵。
另一个小发现:让智能体自己做实验、自己写技能说明,成功率从默认说明的 24% 涨到 63%,比人类专家写的 36% 还高。
咱们该不该上手?
对写代码、做内容的朋友,这套东西暂时跟日常工具没交集,别指望下午就能拿来干活。它是给做机器人研究的人用的,代码、数据、模型都在 GitHub 和 Hugging Face 上。
对关心具身智能的人,倒有个顺手的用法:下回看到"机器人学会了某某"的演示,先问一句,改一个条件能不能重测,失败能不能追到原因。ToyBlocks 想把这种问法变成标配。
有一组数字我先挂个问号。Ai2 说,用预测最准的视频生成模型 Wan 2.2(50 亿参数)生成 100 条轨迹加进训练,未见区域的成功率从 19% 涨到 78%。这是 Ai2 自家测的,值不值得抄这份作业,得等别的团队复现。
我们 AI主线 接下来盯两件事:几周后的第二批数据和 RL 训练,以及有没有别的团队拿这套办法造自己的 FoundationWorld。只有 Ai2 一家在玩,它就还是间漂亮的实验室;有人跟进,才算真成了行业共用的培养皿。