Mem-α 是什么?用强化学习教智能体管理记忆
TL;DRMem-α 是 Anuttacon、加州大学圣迭戈分校和斯坦福大学在 2025 年 9 月提出的强化学习框架,训练大模型智能体自己决定存什么、怎么组织、何时更新记忆,以下游问答准确率作为奖励。
Mem-α(Mem-alpha)是一个用强化学习训练智能体管理记忆的框架,由 Anuttacon、加州大学圣迭戈分校和斯坦福大学的研究人员在 2025 年 9 月提出,论文标题是《Mem-α:通过强化学习学习记忆构建》。
问题:智能体不会“记笔记”
大语言模型智能体受限于有限的上下文窗口,要理解和保留长期信息,就需要外部的记忆系统。但现在的记忆增强型智能体,通常依赖预先写好的指令和工具来更新记忆:什么时候存、存到哪里,都由人设计的规则决定。论文指出,语言模型本身可能并不擅长判断哪些信息该存、该如何组织、什么时候该更新,记忆系统越复杂,这个问题越突出,结果就是记忆构建得不好,重要的信息丢失了。
Mem-α 的做法
Mem-α 不再靠人写规则,而是让智能体通过交互和反馈自己学会管理记忆。首先,研究人员把记忆构建的过程表述为一个序列决策问题:智能体依次读入一块块信息,每读一块,就决定对记忆执行哪些操作,比如新增、修改、删除。它管理的是一个由多个组件构成的复杂记忆架构,例如核心记忆、情景记忆、语义记忆等不同部分。然后,在读完所有信息后,用记忆去回答一系列问题,根据回答的准确率给出奖励。这样,智能体就会逐渐学会:怎样记,才能在之后答得好。
研究团队还构建了一个覆盖多种多轮交互场景的专门训练数据集,用来训练和评估这种记忆管理能力。
意义
论文报告,经过训练的智能体在记忆构建上明显优于依赖固定规则的方法,而且能够泛化到比训练时长得多的信息序列上。这说明“如何记忆”本身是一种可以学习的能力。对于需要长期陪伴用户、处理大量历史信息的 AI 助手来说,这是一个很有价值的方向。