GTA 猜测-思考-回答是什么?结合监督学习和强化学习的文本分类训练
TL;DR猜测-思考-回答(GTA)是 vivo AI Lab 在 2025 年 9 月提出的文本分类训练框架,让模型先给出初步猜测,再反思,最后作答,把监督微调的效率和强化学习的能力提升结合在一个训练范式里。
猜测-思考-回答(Guess-Think-Answer,GTA)是一个用大模型做文本分类的训练框架,由 vivo AI Lab 的算法团队在 2025 年 9 月提出,论文标题是《GTA:面向大模型文本分类的监督引导强化学习》。
两种训练方式的取舍
在自然语言处理任务里,常见的两种微调方式各有短板。纯强化学习微调往往探索效率低、收敛慢;监督微调虽然训练高效,但性能上限有限,理论基础也不如强化学习扎实。论文要解决的就是这个效率与能力之间的权衡。
GTA 怎么做
GTA 把两者统一在一个训练范式里,让模型按三个步骤回答分类问题。第一步,猜测:模型先给出一个初步的分类结果,这一步用交叉熵损失来优化,也就是监督学习的方式,训练又快又稳。第二步,思考:模型对这个初步猜测进行反思,分析它是否合理,有没有遗漏或误判的地方。第三步,回答:在反思的基础上给出最终答案。
强化学习的奖励用来塑造最终的输出,同时约束整个“猜测-思考-回答”结构的格式。研究者还处理了两种训练信号之间的冲突:通过对损失进行掩码和施加梯度约束,避免监督学习的梯度和强化学习的梯度相互干扰。
效果
论文在四个文本分类基准上做了实验,结果显示 GTA 比纯监督微调和纯强化学习的方法收敛更快,同时性能上限更高。这种思路的好处在于:初步猜测提供了一个起点,让强化学习不必从零开始盲目探索;而反思和最终回答又让模型有机会纠正猜测中的错误,获得比单纯监督学习更好的结果。对于需要用大模型做大规模分类、又希望控制训练成本的场景,它提供了一种实用的方案。