资讯

认知扩散概率模型 CogDPM 是什么?把预测编码理论和扩散模型结合

2026-11-052 分钟阅读百科
TL;DR认知扩散概率模型(CogDPM)是 2024 年论文提出的时空预测模型,揭示了扩散概率模型与认知科学中预测编码理论的联系,利用扩散模型的层级采样能力和对预测精度的估计来做预测,在降水临近预报等任务上取得了较好效果。

认知扩散概率模型(Cognitive Diffusion Probabilistic Models,CogDPM)是一种结合了认知科学理论和扩散模型的时空预测方法,出自 2024 年的论文《CogDPM:基于认知预测编码的扩散概率模型》,研究团队来自清华大学和中国气象局等机构。

它想解决什么问题

预测编码是认知科学中的一种理论,认为大脑通过不断地预测外部世界、处理预测与实际之间的误差来进行认知。基于这一理论,研究者此前构建过一些时空预测神经网络,模拟了学习预测误差和层级化结构这两个核心机制。但这些模型在现实世界的预测任务中,并没有表现出明显的优势;而且它们没有很好地模拟预测编码理论中另一个重要的方面:对“精度”的加权,也就是大脑会根据信息的可靠程度,决定在多大程度上相信预测误差。

CogDPM 的发现和思路

这项研究的关键发现是:扩散概率模型和预测编码理论之间存在着内在的联系。扩散模型通过从噪声开始、逐步去噪的方式生成数据,这个过程本身就具有一种层级化的采样能力,可以类比于预测编码中自上而下、逐步细化预测的过程。更重要的是,扩散模型在去噪的过程中,可以估计出预测的不确定性,也就是每个区域的预测有多可靠,这正好对应于预测编码中的“精度”。

基于这一联系,CogDPM 利用扩散模型的层级采样能力,并根据估计出的“精度”来调整预测:对于可预测性高、模型有把握的区域,加强对预测误差的利用;对于不确定性高的区域,则相应地调整。这让模型更接近大脑处理信息的方式,也让预测更加准确和可靠。

效果和应用

论文在多个时空预测任务上验证了 CogDPM,包括合成的运动数据、降水的临近预报和高空风场的预测等真实世界的任务。结果显示,它的预测效果优于此前的时空预测模型和其他扩散模型方法。降水临近预报,也就是预测未来几小时内哪里会下雨、下多大,对防灾减灾非常重要,但由于天气系统的复杂性,传统方法很难做好。CogDPM 这类方法展示了把认知科学的理论洞见引入深度生成模型,提升天气预报等实际任务能力的潜力。