推理：用 token 换准确率的艺术

04.1推理导论：先想清楚，才能做对

推理是把目标转成"可验证计划"的那一层；落到机制上，显式推理是一种花 token 的策略——它用推理时算力买准确率，工程问题永远是边际准确率值不值边际 token。

底层机制（比"先想后做"深一层）：显式推理不是一种风格偏好，而是一种消耗 token 的算力策略。本章五种技术——CoT、路由、自洽性、Tree of Thoughts、假设驱动调试——无一例外都在用推理时算力买准确率。这把统一透镜让选型变得可计算：每一次"要不要想得更深、采更多样、拆更多子任务"，都等价于"边际准确率 ÷ 边际 token 与延迟"是否划算。Anthropic 在多智能体 Research 系统里把这点量化到极致：token 用量单独就解释了约 80% 的性能方差——质量的绝大部分来自"在对的分解上花了足够算力"。这一句把后面四节串成一条线。

04.2CoT 与 extended thinking：草稿纸、计费与反伤

CoT 管用是因为自回归模型每个 token 只能做有限计算，中间 token 充当草稿纸、把多步计算串行化；Anthropic 把它落成 thinking 块——但隐藏/摘要不等于省钱。

底层机制（计费是最反直觉的一点）：thinking 块由 budget_tokens 限定，且必须严格小于 max_tokens，否则请求报错。关键计费事实：你为每一个 thinking token 付费，即使 Claude 4 只回一段由更便宜模型生成的摘要，或在 Opus 4.7/4.8 上把 thinking 字段设为空、display 设为 omitted 只留一个加密 signature。所以"隐藏/摘要 = 省钱"是错的——omitting 只省流式延迟，不省成本。在最新模型上 thinking 是 adaptive 的：深度由模型自己决定，手动设 budget 直接 400 报错；控制面从"你设预算"反转成了"模型自己定速"。提示层面，高层指令"think deeply and try multiple approaches"胜过逐条规定"step 1… step 2…"，因为过度约束推理轨迹会抽掉模型自己需要的自由度——这正是第 01 章双轴框架里"结构约束牺牲自由"的具体体现。

CoT 何时反伤（最颠覆"推理永远安全"的一点）：Liu 等（2024/25）证明，在隐式 / 感知型 / 异常密集的任务上（统计模式学习、人脸/视觉识别、规则带大量例外的分类），强制语言化是人类"言语遮蔽效应"的机器版——显式轨迹会覆盖掉原本正确的快速直觉。o1-preview 在这类任务上相对 GPT-4o 最高掉 36.3%。它只在两个条件同时成立时反伤：深思熟虑会伤害人类完成该任务，且这个约束能迁移到 LLM；约束不迁移时（如逻辑谬误识别），CoT 保持中性或正向。设计规则因此是：按任务类型给 CoT/extended thinking 开关分档，绝不全局施加。

# extended thinking 的三个机制点：分档、计费、续跑
def reason(task, model):
    # 1) 按任务类型 gate——感知/隐式任务上 CoT 会反伤（最高 -36.3%）
    if task.kind in ("perceptual", "implicit_pattern", "exception_heavy"):
        return model(task, thinking=None)        # 不开 thinking，别覆盖快速直觉

    # 2) Opus 4.7/4.8 是 adaptive：手动设 budget 会 400，让模型自己定速
    if model.is_adaptive:
        resp = model(task, thinking={"type": "enabled"})     # 无 budget_tokens
    else:
        resp = model(task, thinking={"type": "enabled",
                                     "budget_tokens": 8000})  # 必须 < max_tokens

    # 3) 计费 = 全部 thinking token，即使只回摘要或 omitted（隐藏不省钱）
    bill = resp.usage.thinking_tokens + resp.usage.output_tokens

    # 工具循环：必须原样回传上一轮 thinking 块（连 signature），否则续跑断裂
    for tool_call in resp.tool_calls:
        obs = run(tool_call)
        resp = model(task, prior_thinking=resp.thinking_blocks, observation=obs)
    return resp.answer

04.3复杂度路由与级联：把算力花在刀刃上

路由用一个便宜分类器把 prompt 映射到"最便宜可胜任的模型"（Haiku 解析 → Sonnet 推理 → Opus 攻坚）；级联则是 cheap→验证→升级——两者失败模式正好相反。

04.2 决定"想多深"，这一节决定"在哪个模型上想"。经济驱动是 5–60x 的价差：Haiku 约每百万 token 0.25–1 美元，Opus 约 5–15 美元。路由（router）是一个置于模型调用之前的便宜分类器（常用 Haiku 本身，约 430ms），把 prompt 映射到难度档、再派给该档最便宜可胜任的模型，能省 40–70%。它是 Anthropic 五个工作流模式之一。

底层机制（错路是隐藏成本）：路由是预测式的——一次就把模型选定，一旦把难题误判成简单题派给 Haiku，质量会静默降级且无从恢复。级联（cascade）反过来：先跑便宜模型，用验证器检查输出，只在失败时升级。它非预测、自纠错，不需要预先的分类器，但要为每一次升级付累加的延迟与 token，而且大模型必须等小模型先跑完才能开始。结论是：分类可靠时路由优化延迟/成本；有好的便宜验证器、又能吃下串行延迟时级联优化正确性。两条路上，分类器/验证器都是会漂移的维护负债。

04.4并行探索：用 token 把方差换成准确率

自洽性、Best-of-N、Tree of Thoughts、编排者-工作者，本质都在对付同一件事——单次采样是模型能力的高方差估计；多采几条再聚合，就能把方差换成准确率。

四种聚合方式，机制各异。自洽性（CoT-SC，Wang 等 2023）：在 temperature>0 下采 N 条独立 CoT，再对最终答案多数投票——正确路径互相一致、错误路径四散，众数因此集中到真值。GSM8K 在 N=40 时从 56.5% 提到 74.4%，不需要任何验证器或训练。Best-of-N（BoN）：把投票换成外部验证器/奖励模型打分选最高，能处理不可投票的输出（代码、散文），但验证器需约 ≥90% 准确，否则比朴素投票还差，且会被 reward hacking。Tree of Thoughts（ToT，Yao 等 2023）：在生成之上加搜索——每步生成 k 个候选"想法"，让模型自评（sure/maybe/impossible），保留 top-b（beam），用 BFS/DFS 配回溯前瞻；Game of 24 从 4% 跳到 74%，代价是每个节点要多次 LLM 调用。编排者-工作者是 agent 层的同一招：主 agent 拆解查询、并行派 3–5 个各有独立 context 的子 agent、再综合，Anthropic Research 实测相对单 Opus +90.2%，但 token 成本约 15x。

底层机制（并行只在任务可分解时划算）：编排者-工作者用 token 买并行——Anthropic Research 用约 15x token 换来 +90.2%，且 token 用量单独解释了约 80% 的质量方差。但它只在任务能拆成独立线程时奏效（广度优先搜索、信息量超过单个 context window）。在紧耦合任务上（写代码、任何需要共享演进状态的事），并行子 agent 会重复劳动、丢失连贯——Anthropic 早期原型甚至给一个琐碎查询派了 50 个子 agent。所以 Anthropic 自己的规则是：只在任务价值能覆盖这笔花费时才加这层复杂度。

04.5假设驱动调试：把"抽盲盒"变成科学方法

调试的反模式是"抽盲盒"——凭直觉补丁、试错改症状；修复是科学调试循环：提出可证伪假设 → 设计实验 → 在真实环境观察 → 下结论，循环到证据收敛。

04.4 决定"采几条路"，这一节决定"怎么在真实世界里验证一条路"。LLM 在调试时天然爱"抽盲盒"：它擅长模式匹配出一个看着合理的补丁，于是急着改症状。修复是科学调试循环（AutoSD 的 hypothesize→observe→conclude）：模型先对根因提出一个可证伪的假设，设计一个实验（一条调试器命令、一行日志、一个最小复现），在真实执行环境里跑、读回实际结果，让生成建立在证据而非先验上，循环到假设被确认或撞上迭代上限。

底层机制（这是 ReAct 的特化）：这个循环就是第 03 章见过的 ReAct（Yao 等 2022）在调试上的特化——推理轨迹更新计划、动作把它锚定在外部证据上。Observation 步是决定性环节：它阻止模型"自信但错误"的内部模型一路复利。agentic 调试之所以难，是因为一个 bug 常在浮现处许多步之前就已产生，所以纪律是：先复现失败 → 隔离失败步 → 验证修复 → 把这次事故转成一条永久的 eval/CI 用例，让同一个 bug 不能再回归。最大的调试增益来自流程而非更强的模型。

# 假设驱动调试 = ReAct 特化：Observation 来自真实执行，不是模型先验
def debug(bug_report, max_iters=8):
    repro = reproduce_failure(bug_report)      # 先稳定复现——否则一切都在猜
    if not repro.stable:
        return "无法复现：bug 常在浮现处许多步之前产生，先收窄复现"

    for _ in range(max_iters):
        # ② 可证伪假设：明确指向某个根因，而不是泛泛"问题在这一带"
        hypo = llm(f"针对 {repro} 提出一个可证伪的根因假设，并给出验证它的实验")

        # ③ 在真实环境里跑实验，读回实际结果（ReAct 的 Observation）
        obs = run_in_real_env(hypo.experiment)  # 调试器命令 / 日志 / 最小复现

        # ④ 用证据下结论；收敛则修复并固化成回归用例
        if hypo.confirmed_by(obs):
            fix = llm(f"根因已确认为 {hypo}；给出修复")
            add_ci_eval_case(repro)             # 把事故转成永久 eval，防回归
            return fix
        repro = repro.with_evidence(obs)        # 没收敛：带着新证据改假设
    return escalate_to_human(bug_report)        # 给上限，避免抽盲盒空转
# 反模式："抽盲盒"——跳过 ③ 直接补丁，会让错误假设一路复利放大。