思维树 ToT 是什么？让大模型像下棋一样探索多种解题思路

思维树（Tree of Thoughts，ToT）是一种让大语言模型进行有意识的探索和规划的推理框架，由普林斯顿大学和谷歌 DeepMind 的研究人员在 2023 年提出，论文标题是《思维树：用大语言模型进行审慎的问题求解》，第一作者是姚顺雨，发表于 NeurIPS 2023。

思维链的局限

思维链让模型一步步地写出推理过程，提升了推理能力。但它是一条直线：模型从左到右、一个词接一个词地生成，每一步只沿着一条路走下去，不能回头。如果早期的某一步走错了方向，后面就只能将错就错。而人类解决复杂问题时，常常会同时考虑几种可能的思路，评估哪条路更有希望，走不通时退回来换一条路，这是一种有意识的规划和探索。

思维树怎么做

思维树把推理过程组织成一棵树：树上的每个节点是一个“思维”，也就是一段连贯的、作为解题中间步骤的文字，比如一个中间计算结果、一个计划的一步。它包括几个关键的环节：

思维分解：把问题拆解成若干个中间步骤。思维生成：在每一步，让模型生成多个不同的候选思路，形成树的分支。状态评估：让模型自己评估每个候选思路的前景，比如判断“这条路肯定能成”“可能可以”或“不可能”，作为搜索的启发信息。搜索算法：用广度优先搜索或深度优先搜索等经典算法在树上探索，优先沿着有希望的分支深入，遇到死胡同就回溯到上一个节点，尝试其他分支。

效果

论文在三个需要规划或搜索的任务上验证了思维树：24 点游戏（用四个数字通过加减乘除算出 24）、创意写作，以及小型填字游戏。在 24 点游戏上，用思维链提示的 GPT-4 只解决了 4% 的问题，而用思维树的成功率达到了 74%，提升非常显著。

影响

思维树把经典人工智能中的搜索和规划思想，与大模型的语言推理能力结合了起来，启发了后续的思维图（Graph of Thoughts）、蒙特卡洛树搜索与大模型结合等一系列研究。它的代价是需要多次调用模型来生成和评估候选思路，计算成本较高。如今的推理模型通过强化学习，在一定程度上把这种探索、评估和回溯的能力内化到了单次的长推理过程中。