行动模型学习是什么?让 AI 学会每个动作的前提和效果
行动模型学习(Action Model Learning)是人工智能中自动学习“动作会带来什么”的过程。这个英文术语目前还没有明确统一的中文译名,“行动模型学习”是根据它的定义直译的。它的目标是开发一种模型,用来预测智能体在环境中执行某个动作后会产生什么结果,从而让智能体能够进行规划。
什么是行动模型
在人工智能的自动规划领域,一个“行动模型”描述了每一个动作的两方面信息:前提条件,也就是执行这个动作需要满足什么条件;效果,也就是执行这个动作后,世界会发生什么变化。以一个简单的“积木世界”为例,“拿起积木 A”这个动作,前提条件是:积木 A 上面没有其他积木,机械手是空的;效果是:机械手拿着积木 A,积木 A 不再在桌面上。有了所有动作的行动模型,规划系统就能像下棋一样推演:从当前的状态出发,执行一系列动作,能不能到达目标状态,从而自动找出完成任务的步骤。
为什么要“学习”行动模型
传统的自动规划系统,需要专家用专门的规划语言,比如 PDDL(规划领域定义语言),手工编写每个动作的前提条件和效果。对于简单的问题这还可行,但对于现实中复杂的领域,比如物流调度、机器人操作、游戏,动作成百上千,前提条件和效果错综复杂,手工编写既费时费力,又很容易出错和遗漏。行动模型学习的目标,就是从观察到的数据中自动地学出这些模型,减少人工的工作量。
怎么学
行动模型学习通常从“行动轨迹”中学习:也就是一系列观察到的“状态、动作、新状态”的记录,比如观察一个人或一个智能体完成任务的过程。通过分析大量的轨迹,学习算法可以推断出:每个动作被执行之前,世界总是满足哪些条件,这些很可能是它的前提条件;每个动作执行之后,世界总是发生了哪些变化,这些很可能是它的效果。研究者开发了多种算法,有的能处理观察不完整的情况(只看到部分状态),有的能处理带有噪声的数据,有的能学习带有随机性的动作效果。
在大模型时代
近年来,研究者也开始尝试借助大语言模型来生成或学习行动模型:大模型掌握了大量关于世界如何运作的常识,可以根据对任务的自然语言描述,生成 PDDL 形式的行动模型,再交给经典的规划器去求解,把大模型的常识和经典规划算法的严谨性结合起来。行动模型学习与强化学习中的“世界模型”、机器人领域对物理交互的建模,在思想上也相互关联。