符号学习是什么?以符号和逻辑形式表示和学习知识
符号学习(Symbolic Learning)是指以符号的形式来表示和学习知识的一类机器学习方法。在这类方法中,学到的知识是用人类可以直接阅读和理解的符号、规则、逻辑表达式或树状结构来表示的,比如“如果天气晴朗并且湿度较低,那么适合打网球”。它与基于神经网络的“连接主义学习”相对:后者把知识以大量数值权重的形式分散地存储在网络中,人很难直接读懂。
符号学习的代表方法
决策树:把学到的知识表示为一棵树,每个节点是一个关于某个特征的判断,每条从根到叶子的路径就是一条规则。ID3、C4.5、CART 等都是经典的决策树算法,罗斯·昆兰(Ross Quinlan)在 1986 年提出的 ID3 是其中的代表。规则学习:直接从数据中学习一组“如果……那么……”的规则,代表算法有 AQ、CN2、RIPPER 等。概念学习:从正例和反例中学习一个概念的描述,比如 Tom Mitchell 提出的候选消除算法,通过维护与所有样本一致的假设集合来进行学习。归纳逻辑程序设计:学习用一阶逻辑表示的规则,能够描述对象之间的关系,学到的结果可以直接写成 Prolog 等逻辑编程语言的程序。基于解释的学习:利用已有的领域知识,从单个例子中分析出一般性的规律。
历史上的地位
周志华在《机器学习》中梳理了机器学习的发展历程:在 20 世纪 80 年代,“从样例中学习”的一大主流就是符号主义学习,其代表包括决策树和基于逻辑的学习。在那个年代,人工智能领域的主流观点认为,智能的核心在于对符号的操作和推理,专家系统正处于鼎盛时期,符号学习方法能够自动地从数据中获取规则,被寄予厚望。20 世纪 90 年代中期以后,统计学习方法,比如支持向量机,逐渐成为主流;2010 年代以后,基于神经网络的深度学习取得了巨大的成功,在图像、语音、语言等领域远远超过了符号学习方法。
符号学习的优缺点
优点:可解释性强,学到的规则和决策树可以被人直接阅读、检验和修改,专家能够判断它们是否合理,这在医疗、金融、法律等需要解释决策理由的领域非常重要;便于融入领域知识,可以把专家已有的知识以规则的形式直接提供给学习系统;能够从较少的数据中学习;学到的知识可以进行逻辑推理和组合。缺点:难以处理图像、声音这类原始的、高维的、连续的感知数据;对噪声和不确定性的处理能力较弱;当问题复杂时,规则的数量会急剧增加,变得难以管理;表达能力受到所选择的符号表示形式的限制。
神经符号结合
近年来,人们越来越认识到,符号方法和神经网络方法各有所长:神经网络擅长从海量的数据中学习感知和模式识别,但缺乏可解释性和严格的逻辑推理能力;符号方法擅长推理和表达明确的知识,但难以处理感知数据。因此,把两者结合起来的“神经符号”人工智能成为一个活跃的研究方向,比如让神经网络负责感知、把结果转换成符号再进行逻辑推理,或者让神经网络学习可解释的符号规则。大语言模型能够生成代码、调用逻辑推理工具,也可以看作在某种程度上把神经网络与符号系统结合了起来。