Agent推理：Tree of Thoughts范式

可视化演示

交互展示树状推理结构、搜索策略对比和性能提升，理解Agent如何探索多条推理路径并择优

范式演进脉络

先说一段登山史。最早的登山者不看地图，问题抛出去就闷头往上冲——这是模型直接吐答案。后来人们学乖了，每走一段就在观景台停下来，把“接下来怎么走”在心里默念一遍——这就是思维链（Chain of Thought，简称 CoT）。再后来，一群人各走各的路，到了山顶互相晒照片投票，取最多人看到的风景——这叫做自我一致性（Self-Consistency）。可是这些做法本质上都只有一条路线：要么一条道走到黑，要么各走各的互不商量。

真正专业的登山队不是这样。他们在每个岔路口派出侦察兵，同时探索多条支线，评估哪条更靠谱，发现死路就撤回重选。这个从“走单线”到“搜路网”的转变，正是 Agentic AI 推理范式的一次关键跃迁，催生了本文的主角：Tree of Thoughts（思维树，简称 ToT）。它把“一次想到底”升级为“多想几条、边走边挑”。

在 ToT 之前，主流的推理增强方式可以画成一条单向直线：

登山队的历史，就是 ToT 的诞生史：从独自盲冲，到边走边确认，再到多路分兵、投票汇总，最后进化为“搜索一整片路网”。

核心思想理念

队伍到了岔路口，队长不会只让一个人探路，而是把“接下来怎么办”拆成一个个决策点，在每个决策点上摊开一张“选择地图”。地图上不是一条线，而是很多条候选线，每条线都标注着队伍当前到达的位置——这就是 ToT 的核心：把推理过程变成一棵可以查阅、比较、放弃的树。

ToT 把一个复杂问题拆成若干“思维步”。每一步产生的候选想法叫一个思维碎片（thought）；从问题出发，每追加一个思维碎片，队伍就到达一个新状态；状态就是树上的节点。树上的每个节点都是一种“走到一半的答案”，比如旅行规划里的“第三天上午在博物馆”。

用状态更新来记录这个推进过程：

队长地图上的每一面小旗，就是一个状态；每添一面旗，队伍就来到一个新决策点。整张“选择地图”，就是一棵不断生长的思维树。

思维树构建

侦察兵如何出发？假设队伍停在一个决策点，队长下令：“给我 5 条探路方案。”于是 5 个侦察兵各选一个方向出发，各自带回“前方有多远、路况如何”的报告。这些报告，就是候选思维；每个方向，就是树上新长出的一个分支。

在 ToT 里，“派出侦察兵”由大模型完成。给定当前状态 $s_t$，模型被要求连续生成 $k$ 个互不相同的候选想法，而不是只生成一个——这 $k$ 个想法就成为当前节点的 $k$ 个子节点。分叉数 $k$ 和树的深度 $T$ 共同决定了思维树长得是“矮胖”还是“高瘦”。比如 24 点游戏把问题拆成 3 步，那么深度 $T=3$，每一步生成 $k=5$ 个候选算式。

思维生成可以写成从条件分布中采样：

分叉系数 $k$ 是“一个决策点派几个侦察兵”，深度 $T$ 是“最多探几层”。侦察兵太多会人挤人拖慢速度，太少会漏掉好路——选好 $k$ 和 $T$，是搭建思维树的第一道手艺。

搜索与评估

侦察兵带回一堆报告，队长得先判断哪些值得继续——这是评估；再决定先看哪一层、深入还是回头——这是搜索。评估是“给每条路打分”，搜索是“决定怎么逛这棵树”。

评估器（evaluator）给每个状态打分。打分可以是规则式的，比如 24 点游戏里检查“剩余数字还有没有办法继续运算成一个数”；也可以让模型投票：让模型对“这条路能走通吗”回答“确信 / 可能 / 不可能”，分别记 1、0.5、0 分，再取平均。

投票评估的公式如下：

有了分数，就轮到搜索策略上场。广度优先搜索（BFS）像“整层整层地扫”，每层只保留分数最高的 $b$ 个节点继续向下长；深度优先搜索（DFS）像“逮着一条路钻到底”，撞了南墙就退回上一个岔路口换一条。BFS 的剪枝选择可以写成：

评估像望远镜，搜索像队形调度。望远镜看得准、队形调得巧，登山队才能既不错过好路，又不把体力耗在死胡同里。

对比CoT优势

独行侠和侦察队有什么差别？独行侠走错一步，只能将错就错；侦察队走错一条支线，撤回岔路口换一条就行。这个差别，决定了 ToT 在复杂任务上的四个关键优势。

一是探索与利用的平衡：ToT 先广撒网（探索）再深耕（利用），CoT 却只有一条道走到黑；二是纠错能力：评估发现死路就回溯，CoT 无法收回已经写下的错误步骤；三是全局决策：用“望远镜”看未来几步，避免只顾眼前利益；四是代价——探索是要花钱的：分叉越多，模型调用越多。

一棵满思维树能覆盖的理论路径数，是分叉数的深度次方：

一句话总结：CoT 是“认准一条路”，ToT 是“拥有一整片路网”。路网越大，越不容易被困死，但养这支侦察队的成本也越高。

典型应用

什么样的山值得派侦察队？答案是：难走、可分几步、中间能判断好坏的山。ToT 论文里最有名的三座山是 24 点游戏、创意写作和迷你填字游戏，它们分别对应数学推理、开放生成和长程规划三类任务。

以 24 点为例：任务被拆成 3 步，每步把两个数合成一个新数。第一步，模型生成 5 个候选算式（比如从 1、2、3、4 里选两个数做加法得 3），评估器投票判断“这三个中间结果还有没有可能凑出 24”，BFS 每层只保留最好的 5 个状态。创意写作则先让模型写 5 个不同的提纲，评估后选最优提纲，再逐段生成正文；长程规划任务更适合 DFS 配合“前瞻”——先试探性地多看几步再决定是否深入。

当搜索确定最优状态后，最后一步是让模型从该状态产出完整成品：

无论是数字的岩壁、文字的峡谷还是规划的平原，共同点是：拆得开、评得出、搜得动。不具备这三点的任务，派侦察队就是杀鸡用牛刀。

落地挑战

侦察队也有烦恼：人多粮多、队长可能看走眼。把 ToT 放进真实 Agent 系统，会迎面撞上三个现实问题。

一是计算成本：每生成一个候选思维、每做一次评估，都是一次大模型调用，ToT 的调用量比 CoT 高一个乃至几个数量级；二是评估设计：打分规则往往要针对任务手写，“确信 / 可能 / 不可能”这套投票在通用场景容易失效；三是与 Agent 融合：Agent 框架要编排生成器、评估器和搜索器，并决定什么时候值得切换到 ToT——简单任务用 CoT 更快，复杂任务才上 ToT。

成本的量级可以粗略估算为：

未来方向也很清晰：把评估器训练成价值模型、引入蒙特卡洛树搜索（MCTS）、让树深和分叉数自适应。侦察队的望远镜会越来越准，队形会越来越灵活，但“评估决定搜索质量”这条铁律不会变。

AI 应用场景

Python 演示

class TreeOfThoughts:    def __init__(self, n):        self.n = n        self.solutions = []        self.explored_count = 0        self.pruned_count = 0     def generate_thoughts(self, state):        # 思维生成器: 给当前行枚举所有可选列        row = len(state)        return [c for c in range(self.n) if c not in state]     def evaluate(self, state, thought):        # 评估器: 新皇后不能与已有皇后在同一对角线        row = len(state)        for r, c in enumerate(state):            if abs(r - row) == abs(c - thought):                return False        return True     def search(self, state):        # 搜索算法: DFS 深入, 评估不过关就剪枝回溯        if len(state) == self.n:            self.solutions.append(state[:])            return        for t in self.generate_thoughts(state):            self.explored_count += 1            if self.evaluate(state, t):                self.search(state + [t])            else:                self.pruned_count += 1     def solve(self):        self.search([])        return self.solutions  if __name__ == "__main__":    tot = TreeOfThoughts(4)    sols = tot.solve()    print("solutions:", len(sols))    print("generated thoughts:", tot.explored_count)    print("pruned thoughts:", tot.pruned_count)    for s in sols:        print(s)

1. def generate_thoughts(self, state):思维生成器：当前行所有不冲突的列都是候选“侦察方向”。
2. return [c for c in range(self.n) if c not in state]枚举候选列，即一个节点长出多个候选子节点。
3. if abs(r - row) == abs(c - thought):评估器：对角线冲突的摆法直接被判为死路。
4. self.explored_count += 1每生成一个候选思维就计数，对应 ToT 的 LLM 调用开销。
5. if self.evaluate(state, t):评估通过的分支继续深入，这就是树搜索的“扩展”。
6. self.search(state + [t])递归深入下一层，对应 DFS 沿着一条路径往下钻。
7. self.pruned_count += 1评估不通过就剪枝：计数加一，不再向下探索，相当于侦察队撤回岔路口。
8. if len(state) == self.n:到达叶子且满足约束，收获一个完整解。

常见误区

面试题