资格问题是什么?AI 永远列不全一个动作成功的所有前提
资格问题(Qualification Problem)是人工智能在知识表示和行动推理方面的一个核心难题。它关注的是:在一个变化的环境中,如何确定一个动作或事件能够成功执行所需要的所有条件。这个问题最早由人工智能的奠基人之一、“人工智能”一词的提出者约翰·麦卡锡(John McCarthy)在 1977 年指出。
一个经典的例子
麦卡锡用汽车举了一个例子:要推理出“转动钥匙,汽车就会启动”,需要满足哪些前提?油箱里要有油,电池要有电,发动机没有故障,排气管没有被堵住……但如果有人在排气管里塞了一个土豆呢?还有无数种可能让汽车无法启动的情况:钥匙插错了,车被拖走了,零下四十度机油冻住了。几乎不可能把一个动作成功所需的全部前提条件都列举出来,但人类在日常推理中却能很自然地假设“通常情况下转动钥匙车就会启动”,只在出现异常时才去考虑这些特殊因素。
为什么这对 AI 是难题
早期的人工智能,特别是基于逻辑的推理系统,需要把知识明确地写成规则。如果规则写成“转钥匙就能启动汽车”,那么在油箱没油时它就会得出错误的结论;如果要在规则里列出所有的前提条件,规则就会变得无穷无尽,而且永远列不完。这就是资格问题:一个动作的“资格条件”无法被完整地写下来。
相关的难题和解决思路
资格问题与人工智能中另外两个著名的问题密切相关:框架问题,即如何表示一个动作“没有改变”哪些东西,比如开车门不会改变车的颜色;以及衍生问题,即如何推断一个动作带来的所有间接后果。这三个问题共同揭示了用逻辑精确描述现实世界的困难。
为了应对资格问题,麦卡锡提出了“限定”(circumscription)等非单调推理方法:默认假设不存在异常情况,除非有证据表明存在异常。这种“默认推理”允许系统在获得新信息时撤回之前的结论,更接近人类的常识推理方式。
今天的机器学习方法,包括大语言模型,在一定程度上绕开了这个问题:它们从大量数据中学习“通常会发生什么”,而不是依赖完整的规则。但在机器人和智能体需要在真实世界中行动时,如何应对各种意想不到的失败条件,依然是这个古老问题的现代版本。