CoT 家族：推理即算力

起点立了一条贯穿全教程的断言：每一种推理模式都用推理期算力换单次前向传播给不了的可靠性。这句话听上去抽象。本章用 CoT 把它落到实处——CoT 是这条断言最干净的实例，也是后面所有模式的地基。横轴的最左端（串行 token）、纵轴的最上沿（内部闭环、无外部校验）都在这一章成形。

1.1Chain-of-Thought：把 token 流当算力

在 few-shot 示例里写出中间推理步骤，模型解新题时会照着先写步骤再给答案——纯 prompt 技巧，不改模型权重、不改解码方式。

底层机制：token 流是「展开的递归」

这里要比官方文档深一层。文档说 CoT「让模型 step by step 地想」——这是结果，不是机制。机制是这样的：

一个固定层数的 Transformer，对单个 token 位置做的运算，计算复杂度类属于很弱的一档——理论上接近 AC⁰（常数深度的布尔电路类），连「可靠地跟踪一个会随步数变化的状态」这种迭代任务都做不稳（Merrill & Sabharwal, 2310.07923）。换句话说，单次前向传播的「想」是有硬上限的，再大的模型也搬不动这堵墙——墙的位置由架构定，不由参数量定。

关键转折在自回归：每吐出一个 CoT token，这个 token 立刻被拼回输入，模型重新跑一次前向传播。于是 token 流不是一句话，而是一条串行计算链——第 T 个 token 的计算，能用上前面 T-1 个 token 写下的所有中间结果。写 T 步 CoT，约等于让模型模拟一个规模为 T 的电路；步数 T 随题目长度多项式增长时，可达到的计算类从 AC⁰ 一路抬到 P（多项式时间可解，Feng et al. 2402.12875）。这是「多写 token 真能提升正确率」唯一站得住的解释：token 是被借来的串行计算步数。

场景走查：一道 GSM8K 式应用题

题目：果园里 3 行树、每行 7 棵；摘走 5 棵后，又补种 12 棵。现在多少棵？

直接答（无 CoT）。模型在一次前向传播里要一口气算完 3×7、再减 5、再加 12，还要把这一连串中间值压进固定深度——很容易吐出一个看着合理的错数，例如脱口而出「30」。没有任何中间值落到 token 上，错在哪无从查。

写出步骤（CoT）。逐句标注每一句对应的「一步串行计算」：

原有：3 行 × 7 棵 = 21 棵        ← 串行步 1：算总数，21 落到 token 上
摘走：21 − 5 = 16 棵            ← 串行步 2：用上一步的 21，减 5
补种：16 + 12 = 28 棵           ← 串行步 3：用上一步的 16，加 12
答案：28 棵                     ← 抽取，复用步 3 的结果

每一步都把一个中间值写成 token，下一步的前向传播直接读它，不必在固定深度里重算。三步串行做完，答案稳定为 28。这就是图 1.1 右半边在一道真题上的样子。

实证：涌现，不是「越大越好」那么简单

CoT 原始论文（Wei et al. 2022, 2201.11903）的招牌数字：PaLM 540B 在 GSM8K（小学数学应用题）上，标准 prompt 只有 17.9%，加 8 个带推理步骤的 few-shot 示例后跳到 56.9%，超过了当时「fine-tuned GPT-3 + 训一个验证器」的约 55%。一个 prompt 技巧打平了一整套微调流水线。

把 CoT 当作 prompt 技巧的更广写法（few-shot 模板、结构化输出、示例排序），在 prompt-engineering · 思维链 有系统展开；本章只取「token = 串行算力」这一条机制线。

1.2Zero-shot CoT：一句咒语，两次调用

不给任何示例，只在问题后接一句「Let's think step by step」，模型就会自己生成推理步骤——但抽答案要再调一次，实为两阶段、两次 LLM 调用。

底层机制：两阶段，不是一次

名字叫 zero-shot，但它在工程上是两次前向调用，常被忽略：

1. 推理阶段：prompt = 问题 +「Let's think step by step」，模型生成一整段推理文本（这段就是借来的串行算力）。
2. 抽取阶段：把第一阶段的输出再拼上「Therefore, the answer is」喂回去，让模型从自己刚写的推理里抽出最终答案。

为什么要分两次？因为模型自由发挥写完推理后，答案藏在一段自然语言里，格式不定，得再调一次把它「逼」成可解析的形式。代价随之而来：延迟和 token 成本翻倍；抽取阶段本身可能失败（模型推理写对了，最后一步却抽错数）。

招牌数字（text-davinci-002）：MultiArith 17.7% → 78.7%，GSM8K 10.4% → 40.7%。一句话量级的改动换来几倍正确率，但要记住这「一句话」背后是两次调用。

1.3Self-Consistency：横轴迈向并行采样

对同一道题用温度采样跑出 N 条不同的 CoT，只取每条的「最终答案」做多数投票，推理文本本身丢弃——横轴从「串行 token」迈到「并行采样」的第一个点。

底层机制：在最终答案上边缘化，而非选最佳链

这是最容易记错的一点：Self-Consistency 不是挑一条「看起来最好的链」，而是把每条链的推理文本扔掉，只保留它得出的最终答案，再对这些答案数票。用概率的话说，它在「最终答案」这个变量上做边缘化——把同一个答案下千差万别的推理路径全加到一起，等价于在问「哪个答案被最多条独立路径支持」。链条只是到达答案的载具，投票投的是终点。

场景走查：续上那道果园题

对果园题（正确答案 28）跑 5 条采样链，正是图 1.2 的内容：3 条算出 28，1 条某步乘错得 30，1 条漏了补种得 16。三种错法没撞到一块儿、各 1 票，正确答案 28 拿 3 票胜出。哪怕单条链只有六成把握，多条独立链一投票，整体准确率被显著抬高。在 PaLM 540B 上，Self-Consistency 把 GSM8K 又往上推了约 +17.9 个百分点（在 CoT 之上叠加）。

1.4Faithfulness：写出来的链，未必是真算的那条

忠实性（faithfulness）指模型写出的 CoT 是否真实反映了它得出答案的计算过程——很多时候不是：链条是事后给已定答案编的理由。

两个反例：链条看着对，其实是事后合理化

Turpin et al. 2023（2305.04388）——植入偏置。在 few-shot 示例里动手脚：把所有示例的正确答案都摆成选项 (A)。模型接收到这个隐藏规律后，在新题上会默默偏向 (A)，并为这个被偏置的答案一本正经地编出 CoT 理由——全程只字不提「我是因为前面答案都在 A 才选 A」这个真实原因。这类偏置使某些任务正确率最多掉 36%，而写出来的链条读起来毫无破绽。链条解释的是一个体面的假理由，真实动因被藏起来了。

Lanham et al. 2023, Anthropic（2307.13702）——干预链条看答案会不会变。做了两类干预：early answering（推理只截断到一半就逼它给答案）和 adding mistakes（往链条里掺进一处错误再让它接着推）。如果链条真在驱动答案，干预后答案应当随之改变。结果分裂成两类任务：在真靠推理的任务（AQuA、LogiQA 这类多步数学/逻辑）上，干预让答案改变 >26%——链条确实在算；而在事后合理化的任务（ARC、OpenBookQA 这类常识问答）上，答案改变 <10%——模型其实已经知道答案，链条只是装点门面。

filler 之争：内容到底重不重要

既然链条有时只是装点，那干脆用无意义符号占位、只保留「多花算力」这件事，行不行？两篇结论相反，但合起来才是完整答案：

• Lanham 2023：把 CoT 整段换成等长的「...」填充符（只占 token、无内容），收益归零。结论：对真靠推理的任务，关键不只是「多占了 token」，token 里写的内容本身在参与计算。
• Pfau et al. 2024（dot-by-dot）：在专门构造的任务上，纯 filler token（一串「.」）确实能让模型解出原本解不了的题——但仅对特定结构有效（如量词嵌套深度低的一类问题），且需要专门训练才能利用上这种「空算力」。

把两者拼起来：filler 能提供的，只是一点点「额外的并行算力槽位」，对绝大多数真正串行的推理远远不够；一旦任务需要把第 2 步的结果喂给第 3 步，token 里写的内容就不可替代。所以面对真串行推理，CoT 的内容是重要的——这反过来印证：当链条内容可以随意替换却不影响答案时（§1.4 开头那种事后合理化），它多半没在真的算。

还有一个反直觉：忠实度逆向 scaling

结论收束到纵轴：CoT 这一整套——zero-shot、few-shot、Self-Consistency——都是内部闭环，循环里没有任何外部真值能告诉模型「你这步算错了」「你这个事实记错了」。链条不忠实时，它会带着一脸笃定把你引向错处，而你从链面上看不出破绽。要打破闭环，只有一条路：把推理的某些步骤钉在外部可验证的反馈上。那正是第 2 章 grounding 要做的事。