资讯

计算即教师 CaT 是什么?没有标准答案时用推理算力自己当老师

2026-11-052 分钟阅读百科
TL;DR计算即教师(CaT)是牛津大学和 Meta 超级智能实验室等在 2025 年 9 月提出的后训练方法,让模型并行生成多个回答,再综合出一个参考答案作为监督信号,在没有标准答案甚至无法自动验证的领域也能进行强化学习。

计算即教师(Compute as Teacher,CaT)是一种在没有标准答案时训练大模型的方法,由牛津大学和 Meta 超级智能实验室等机构的研究人员在 2025 年 9 月提出,论文标题是《计算即教师:把推理算力转化为无参考监督》。

要回答的问题

论文开篇就提出了问题:在后训练阶段,如果没有标准答案,学习信号从哪里来?用强化学习训练推理模型,通常依赖可验证的奖励,比如数学题有标准答案、代码可以跑测试。但很多重要的领域没有这样的程序化检查器,比如健康建议、开放式的写作和分析,一个回答好不好很难自动判断,人工标注又昂贵。

CaT 的思路

研究者的回答是:推理时的计算本身就可以作为监督。具体做法是:对同一个问题,让模型并行生成多个回答;然后把这组回答综合成一个参考答案的估计。这里的综合不是简单的投票选择最常见的答案,而是由一个固定的“锚”模型阅读所有回答,取长补短,合成一个新的、通常比任何单个回答都更好的参考答案,即使它与多数回答都不一致。接着,以这个合成的参考为目标,对模型进行强化学习训练。这样,模型不需要人工标签,就能把推理时“多想几遍”的计算,转化为训练信号。

对于有标准答案的可验证领域,可以直接检查模型的回答是否和合成参考一致来给奖励;对于不可验证的领域,研究者让模型根据合成的参考答案自动生成一份评分细则,再用另一个模型按细则给回答打分。

效果

论文报告,CaT 作为一种测试时的方法就能提升效果;用它进行强化学习训练后,在数学推理和医疗健康类问答等任务上都取得了显著提升,在后者这样没有程序化检查器的领域尤其有意义。它为“模型如何在没有老师的情况下继续进步”提供了一种可扩展的路径。