稳定性-可塑性困境是什么？学新知识和保旧知识之间的矛盾

稳定性-可塑性困境（Stability-plasticity Dilemma）是指一个能够学习的系统所面临的一个根本矛盾：它既需要足够的“可塑性”，能够不断地学习新的知识、适应新的情况；又需要足够的“稳定性”，已经学会的知识不能因为新的学习而被轻易地破坏或遗忘。这两个要求在很大程度上是相互冲突的。这一概念由美国神经科学家斯蒂芬·格罗斯伯格及其合作者盖尔·卡彭特等人在 20 世纪 80 年代明确提出。

两难在哪里

如果一个系统的可塑性很强，对新的输入非常敏感，每来一个新的例子就大幅地调整自己，那么它能很快地学会新东西，但旧的知识也很容易被覆盖掉，变得极不稳定。反过来，如果一个系统非常稳定，几乎不随新的输入而改变，那么旧的知识倒是保住了，但它也就学不会任何新的东西，变得僵化。理想的学习系统需要在两者之间取得巧妙的平衡：在需要学习新知识时保持灵活，同时保护好已经学会的重要知识。

在人工神经网络中：灾难性遗忘

稳定性-可塑性困境在人工神经网络中表现得非常突出，最典型的现象就是“灾难性遗忘”：当一个神经网络学会了任务甲之后，再让它只用任务乙的数据进行训练，它在学会任务乙的同时，往往会迅速地、几乎完全地忘掉任务甲。Michael McCloskey 和 Neal Cohen 在 1989 年，以及 Roger Ratcliff 在 1990 年的研究，最早系统地揭示了这一现象。其原因在于：神经网络中的知识是分布式地存储在大量共享的权重之中的，同一组权重同时承担着多项任务的功能；在学习新任务时，梯度下降会毫无顾忌地修改这些权重，以适应新的数据，而不会考虑这些修改对旧任务的影响。

大脑是如何应对的

人的大脑能够在一生中不断地学习新东西，却很少因此严重地遗忘旧的知识，这说明大脑有着某种解决这一困境的机制。1995 年，James McClelland、Bruce McNaughton 和 Randall O'Reilly 提出了“互补学习系统”理论：大脑中有两个互补的学习系统，海马体能够快速地学习和记住新的具体经历，可塑性很强；大脑皮层则缓慢地、逐步地学习，形成稳定的、结构化的知识。在睡眠等过程中，海马体中的新记忆会被反复地“回放”，与旧的知识交织在一起，逐渐地整合到大脑皮层中，从而避免了新知识对旧知识的冲击。

应对这一困境的方法

自适应谐振理论：格罗斯伯格等人提出的这一理论，通过“警戒参数”来判断新的输入是否与已有的类别足够相似：足够相似时才更新已有的类别，否则就创建一个新的类别，从而在学习新模式的同时保护旧的模式。持续学习中的方法：如今，持续学习，也叫终身学习或增量学习，是机器学习中一个专门研究这一困境的方向。主要的方法包括：回放，保留或生成一些旧的数据，在学习新任务时混合进行训练，这与大脑中记忆回放的机制相呼应；正则化，比如 2017 年 DeepMind 提出的弹性权重巩固（EWC），估计每个权重对旧任务的重要程度，在学习新任务时限制重要的权重发生太大的变化；参数隔离，为不同的任务分配不同的参数或网络分支，比如渐进式神经网络、为每个任务训练单独的小型适配器；以及知识蒸馏，让新模型在学习新任务时，尽量保持与旧模型相似的输出。

在大模型时代

这一困境在大语言模型中依然存在：对模型进行微调，让它擅长某个新的任务或领域时，它原有的通用能力可能会下降，这有时被称为“对齐税”或能力退化。为了缓解这一问题，人们采用了混合原有数据进行训练、使用 LoRA 等参数高效的微调方法只修改少量参数，以及用检索增强生成从外部获取新知识而不改动模型本身等做法。