TAE 标记感知编辑是什么？在激活层面逐个词元纠正大模型行为

标记感知编辑（Token-Aware Editing，TAE）是一种在推理时编辑大模型内部激活来改善对齐的方法，由北京航空航天大学的研究团队在 2025 年 5 月提出，论文标题是《用于大语言模型对齐的内部激活标记感知编辑》。

背景：激活编辑

让大模型更真实、更安全、更符合人类期望，通常的做法是用额外的数据微调。另一类方法是激活编辑：不改模型权重，而是在模型推理时，直接修改它内部的激活值，把它往“对齐”的方向推一推。比如找到模型内部和“说真话”相关的方向，在推理时沿着这个方向调整激活。这类方法成本低、可以即插即用。

问题是，以往的激活编辑方法通常在句子层面做干预，对所有的词元一视同仁地施加同样强度的编辑，忽略了不同词元之间的差异：有的词元已经很“对齐”了，不需要改；有的词元偏离得厉害，需要大幅修正。

TAE 充分利用激活空间里词元级别的对齐信息。第一个模块是互信息引导的图聚合（MIG）：它构建一张以互信息为依据的图，利用不同词元之间的信息交互来增强激活表示，让模型更准确地探测出哪些地方偏离了对齐方向，从而为干预提供更好的依据。

第二个模块是错位感知的自适应干预（MAI）：它从词元的表示和模型的预测两方面，全面感知每个词元的错位程度，再据此自适应地调整编辑的强度。偏离大的多改一些，偏离小的少改一些，从而在纠正问题的同时尽量不破坏模型原本正常的输出。

论文报告，TAE 在提升模型真实性等对齐指标上，明显优于以往的激活编辑方法，而且不需要训练模型本身。这类细粒度的推理时干预方法，为在不重新训练的情况下快速修正模型行为提供了一种轻量的工具。