预测编码是什么？大脑不断预测世界、只处理“意外”的理论

预测编码（Predictive Coding，PC）是认知科学和神经科学中关于大脑如何工作的一种理论框架。它认为，大脑不是被动地接收外界的信息，而是主动地、持续地对世界进行预测：根据过去的经验，预测接下来会看到什么、听到什么；然后把预测和实际的感官输入进行比较，主要处理两者之间的差异，也就是“预测误差”，并用误差来更新自己对世界的认识。这一理论的现代形式，常被追溯到 Rao 和 Ballard 在 1999 年发表的关于视觉皮层的研究，也和 Karl Friston 的自由能原理密切相关。

一个直观的理解

想象你走进自己熟悉的家：你几乎不会注意到家具、墙壁和灯光，因为一切都和你的预期一样，大脑不需要花力气去处理；但如果沙发被挪了位置，或者地上多了一个陌生的箱子，你会立刻注意到。这就是预测编码的思想：符合预期的信息被“预测掉”了，只有出乎意料的部分，也就是预测误差，才会被重点地传递和处理。这种机制很高效：大脑不需要每时每刻都从头处理海量的感官信息，只需要关注那些“意外”。

层级化的结构

预测编码理论认为，大脑是一个层级化的系统。高层的脑区形成更抽象的预测，比如“这是一张人脸”，并向下传递给低层的脑区；低层的脑区把实际的感官输入和预测进行比较，把预测误差向上传递给高层。高层根据误差修正自己的预测，如此循环往复，大脑对世界的理解在这个过程中不断地精细化。学习预测误差和层级化的结构，是预测编码的两个核心机制。这一理论被用来解释知觉、注意力、学习，甚至错觉和某些精神疾病中的感知异常。

对 AI 的启发

预测编码的思想深刻地影响了人工智能的研究。研究者构建了模拟这两个核心机制的时空预测神经网络，比如 PredNet 等模型，它们通过预测视频的下一帧来学习视觉表示。不过相关研究也指出，早期的这类模型并没有在现实世界的预测任务中显示出明显的优势。近年来的一些工作，比如认知扩散概率模型（CogDPM），尝试把预测编码与扩散模型等强大的生成模型结合起来，在天气预测等时空预测任务上取得了更好的效果。

从更宏观的角度看，“通过预测来学习”与大语言模型预测下一个词、视频模型预测下一帧的训练方式也有相通之处，而“大脑在内部模拟世界”的思想，也与 AI 中的世界模型概念相呼应。