思维链CoT让大模型学会推理

可视化演示

展示CoT逐步推理与直接回答的对比、Zero-shot与Few-shot两种触发方式，以及CoT在不同任务上的性能提升效果。

认识思维链：从“报答案”到“报过程”

师傅发现，小智的问题不只是“不报步骤”,而是他脑子里的推理像“跳房子”——一步恨不得跨三个格子，跨不过去就摔。第一次独立做水晶虾饺时，他想同时在脑子里算好烫面水温、馅料比例和蒸制时间，结果三件事搅成一团，端出来的饺子皮破馅散。师傅叹口气说：“你记着，复杂活儿别在脑子里抢跑，把每一步落到嘴边、落到手上。”

思维链(Chain-of-Thought,CoT)正是这个道理：让大模型在给出最终答案之前，先输出一串中间推理步骤。提出这一方法的是 Wei 等人 2022 年的论文，他们发现，仅仅在提示词里引导模型“先写推理过程”,大模型在数学应用题、常识推理等任务上的表现就大幅提升，而且完全不需要训练模型，只改提示词即可。

推理链的形态很直观：输入问题 x 后，模型依次生成步骤 s1、s2……直到 sn,最后才给出答案 a。对比直接回答的“一步到位”,CoT 多了一段可读的中间产物，这也是它一切优点的来源。

就像口播里的每一句“称多少面粉”都是看得见的操作，CoT 的每一步也都是可读的中间结论。从这天起，小智不再“跳房子”,而是一级一级爬楼梯——虽然慢了点，但每一步都踩得稳稳当当。

工作原理：为什么“说过程”能变聪明

小智开始口播后有了意外收获：他切完葱会下意识闻一闻，发现不对劲立刻换料；面团揉到一半，他会捏一下软硬，太硬就补点水。口播逼着他把注意力落在当下这一步，每一步都成了一个小检查点，错误在萌芽时就被揪出来。

大模型的推理也是如此。复杂任务之所以难，是因为“一步到位”要求模型同时处理太多信息；而 CoT 把大任务拆成多个子任务后，每一步只需做一件小事。更关键的是，每一步生成的结论会留在上下文里，成为下一步的“工作台”——第3步能直接看到第1步和第2步写下的内容，相当于小智把“称好的面粉”摆在案板上，伸手就能拿到。

从概率角度看，CoT 对应着条件概率的链式展开：直接回答是“一次猜对整道题”,而思维链是“每步只猜一小步，且猜下一步时会看到前面所有步骤”。拆小了，单步难度自然下降。

口播的本质，是把“一次豪赌”变成“一串小赌”——而且每一把都摊在桌面上，错了随时止损。小智的每一步都被自己和客人盯着，大模型的每一步也都被上下文和提示词约束着，这就是“说过程”让模型变聪明的深层原因。

零样本触发：一句口诀启动推理

师傅后来发现一个省事的诀窍：不用示范，也不用讲解，只要在小智手忙脚乱时喊一句“别急，一步一步来！”,他马上就像被按了开关一样，自动进入口播模式。这句口诀，就是零样本(Zero-shot)CoT 的全部秘密。

Kojima 等人在 2022 年发现，只要在问题末尾追加一句“让我们一步一步地思考”(Let's think step by step),大模型就会自发地生成一长串推理步骤，再给出答案。整段提示里没有任何例题，全靠这句口诀把模型“调”到推理状态——这就是它叫“零样本”的原因。

一句口诀能唤起老手艺，是因为本领早就在身上；同理，CoT 唤起的也是模型在预训练阶段已经习得、只是平时“懒得展开”的推理能力。不过口诀也有失灵的时候——如果模型本身很小，这句口诀往往不奏效，这点我们后面会细说。

少样本触发：示范菜谱照猫画虎

口诀对小智只对了一半：遇到熟悉的菜品，他一听“一步步来”就稳了；可碰上完全没见过的新菜，他还是容易跑偏。师傅想了个更稳妥的办法——先亲手示范一道完整菜：称料、和面、调馅、蒸制，每一步都报出来，再让小智照着做一道新菜。这就是少样本(Few-shot)CoT。

少样本 CoT 的做法是：在提示词里先放 k 个“题目 + 推理链 + 答案”的完整示例，然后把真正要解的新问题接在后面。示例在这里不只是“参考答案”,更是在定义输出格式与推理节奏——模型会像一个学徒一样，照着师傅的套路走。

示范菜谱决定新菜的口味上限——示例里推理写得含糊，模型学到的就是含糊；示例里格式统一、步骤清晰，模型输出的就是同样清晰的推理链。小智现在明白，师傅的示范不只是“给答案”,更是“给套路”。

效果提升：数学与代码的利器

自从学会了“口播做菜”,小智在店里的“数学套餐”（算账、算料）和“代码小炒”（记录配方、排班表）好评率暴涨。账房先生夸他：“以前让你算一笔三桌客人的总账，你报个数常对不上；现在你一步一步报，错了也能立刻揪出来。”

数据同样惊人：在 GSM8K 小学数学应用题集上，PaLM 540B 模型用普通提示直接回答，准确率只有 17.9%;改用少样本 CoT 后，准确率一跃达到 58.3%。代码任务的逻辑也类似：让模型先推理“输入有哪些情况、条件要怎么分支”,再写实现，比直接甩出一段代码稳定得多。

需要强调：不是口播本身创造了新手艺，而是口播把已有的手艺稳稳发挥了出来。CoT 从不给模型灌输新知识，它只是“激发”了参数里沉睡的推理能力，这正是它属于“涌现能力”的原因——模型不够大时，再怎么喊口诀也无济于事。

对比直接回答：过程的价值

有位老顾客问小智：“你这包子为什么这么鲜？” 以前小智只会挠头答“就是鲜”,客人追问哪里鲜、怎么调的，他一句也答不上来。现在他会说：“放了虾皮、鸡汤和胡椒粉，顺序是先调馅再拌葱，胡椒最后放。” 客人一听，立刻知道哪一步是关键，甚至能给出改进建议。

技术上的对比同样清晰。直接回答是一个“黑箱映射”:问题进去，答案出来，中间发生了什么无人知晓;CoT 则把同一问题映射成“一串推理 + 答案”,过程完整摊开在输出里。可解释性带来两个直接好处：一是答案错了能定位到具体是哪一步错的，二是调试时只需修改那一步的提示，不必推翻重来。

能复盘的菜谱才是好菜谱。对 Prompt 工程师和 AI 应用开发者来说，“能定位到盐放多了”的推理链，远比一个“看起来挺对”的最终答案更值得在生产环境里信任。

局限挑战：口诀不是万能药

口播也有翻车的时候。小智第一次独立做满汉全席式的宴客菜时，嘴皮子都磨干了：步骤一多，他说着说着就说串——“这步放盐？哦不对，上一步已经放过了。” 师傅在旁边摇头：“口播救不了没练熟的菜，也救不了太长的流程。”

CoT 的局限主要有三。第一是误差累积：推理链是串行的，任何一步出错都会被后续步骤放大，而且模型可能“自信地胡说”,把错误藏在看似合理的过程中。第二是计算成本：输出 token 数翻倍，延迟和费用同步上升，简单任务用它纯属浪费。第三是依赖模型规模与提示设计：小模型难以稳定涌现思维链，提示词设计不当反而让效果更差。

师傅最后总结了一句大实话：“口诀只管该管的事。” 简单菜不需要口播，复杂菜才值得花时间；流程工程师的结论如出一辙：按任务复杂度决定是否启用 CoT,别让“步步为营”变成“步步惊心”。

AI 应用场景

Python 演示

"""思维链CoT演示: 从"直接报答案"到"一步步写出推理过程" """  def build_zero_shot_prompt(question):    """零样本触发: 只在问题后追加一句思考口诀"""    return question + "\n让我们一步一步地思考,并写出中间步骤。"  def build_few_shot_prompt(question):    """少样本触发: 先给一个完整推理链示例,再提出新问题"""    example = (        "题目: 小明有12颗糖,吃掉5颗,又买了8颗,现在有几颗?\n"        "推理: 12 - 5 = 7; 7 + 8 = 15。\n"        "答案: 15颗。\n\n"    )    return example + f"题目: {question}\n推理: "  def compute_trace(goods):    """模拟模型按CoT输出: 每步打印中间结论, 形成可检查的推理链"""    trace, total = [], 0    for name, price, count in goods:        subtotal = price * count        total += subtotal        trace.append(f"{name}: {price}元 x {count}件 = {subtotal}元, 累计 {total}元")    return trace  def direct_answer(goods):    """模拟直接回答: 跳过中间过程, 只返回最终数字"""    return sum(price * count for _, price, count in goods)  if __name__ == "__main__":    question = "李阿姨买3斤苹果(每斤6元)和一个8元的西瓜,一共花多少元?"    goods = [("苹果", 6, 3), ("西瓜", 8, 1)]    print("== Zero-shot CoT 提示词 ==")    print(build_zero_shot_prompt(question))    print("\n== Few-shot CoT 提示词 ==")    print(build_few_shot_prompt(question))    print("\n== 直接回答模式 ==")    print("答案:", direct_answer(goods), "元")    print("\n== CoT 模式: 逐步推理链 ==")    for line in compute_trace(goods):        print(line)    print("最终答案:", direct_answer(goods), "元")

1. def build_zero_shot_prompt(question):零样本入口，一个函数就拼出完整的触发提示
2. return question + "\n让我们一步一步地思考,并写出中间步骤。"这句“口诀”是零样本 CoT 的全部秘密
3. example = (用三引号字符串构造“题目+推理+答案”的示范样例
4. return example + f"题目: {question}\n推理: "把示范拼在最前面，让模型照格式续写推理链
5. for name, price, count in goods:逐件商品累计金额，对应 CoT 的“每步只做一件小事”
6. trace.append(f"{name}: {price}元 x {count}件 = {subtotal}元, 累计 {total}元")每一步都留痕，形成可检查的推理链
7. sum(price * count for _, price, count in goods)直接回答模式“一步到位”,省 token 但过程不可见

常见误区

面试题