推理模型是怎么工作的

思维链（chain-of-thought）之所以有效，是因为每个 token 都会得到一次前向传播，所以把步骤写出来就是实打实的额外计算。

推理模型（reasoning model）把这条原则训了进去。不必再要求它一步步来，模型默认就会在作答前生成大段推理，长度也长得多。

变了什么

机制没变：token 越多，计算越多。变的是三件事。

长度。 靠 prompt 引导出来的思维链产出几百个推理 token。推理模型产出几千个，有时是几万个。

推理过程中的行为。 它们会回头、验算、发现错误、换一条路试——这些在靠 prompt 引导出的推理里很少见。

训练信号。 这是实质性的变化。它们不再学着模仿人类写下的推理，而是用基于结果的强化学习来训练：生成推理，给出答案，检查答案对不对，然后强化那些导向正确答案的推理。

没有人示范什么是好的推理。模型自己发现什么管用。自我纠错这类行为之所以涌现，是因为它们提高了成功率，而不是因为被教过。

这要求答案可验证，所以提升最明显的是数学、算法竞赛和形式逻辑——这些领域的正确性可以自动检查。没有自动验证手段的任务，进展就平淡得多。

推理时扩展

重要的推论是：你可以在请求时拿计算换准确率。

过去想要更好的输出，就得换更大的模型——那是个训练期的决定。推理模型多加了第二个旋钮。同一个模型，允许它想得更久，在难题上就表现更好。

大多数厂商把它做成一个 effort 或 budget 设置项。简单任务调低，难题调高。这是使用这类系统时一个真正新的维度，也是最该记住的实用要点。

推理过程通常是看不到的

厂商通常不返回原始的推理 token。你能拿到一段摘要，或者什么都没有，外加一个消耗 token 的计数。

给出的理由有两条：原始推理未经打磨，可能误导人；而且它属于竞争性投入。

不管怎样，这些 token 都照收费用，这是要弄清楚的成本模型——一次推理回答消耗的 token，可以是可见输出的很多倍。

它们擅长什么

多步数学，训练信号最强的地方。

算法竞赛，尤其是需要算法洞察的题目。

难查的 bug——顺着逻辑一路追，同时考虑其他可能。

约束满足——排班、谜题，任何约束之间会相互影响的问题。

需要细究的分析，即失效模式是急于下结论的那类。

它们不擅长什么

简单任务。 抽取、分类、格式化。推理只增加成本和延迟，没有收益，还可能因为在一个毫无歧义的问题上想太多而给出更差的结果。

对延迟敏感的工作。 几千个推理 token 要花实打实的时间，不适合交互式的输入联想。

知识缺口。 推理救不回缺失的信息。它会产出详尽、结构漂亮的错误答案——可以说比一个简短的错误答案更糟，因为那个结构有说服力。解法依然是 检索增强生成（RAG）。

过程必须可审计的任务，考虑到推理是隐藏的。

忠实性问题仍然存在

思维链那条保留意见在这里同样适用，而且更要紧，因为推理更长、更不容易看见。

说出来的推理未必反映真正决定答案的东西。研究已经显示，模型会先得出结论，再补出一段为之辩护的推理；也有这种情况：一个暗示改变了答案，而推理过程里只字未提它。

多出来的 token 确实提高了准确率。推理轨迹不是可靠的审计记录。这两句都为真。

实际用法

按难度分流。 难题上推理模型，其余上标准模型。为抽取任务付推理模型的价格，和拿前沿模型做分类是同一种本可避免的浪费。

不要再加「一步一步想」。 这是训进去的。再用 prompt 要求它反而可能干扰。

换一种问法。 这类模型对清晰的问题陈述，响应好过对详细的过程指令。说清你要什么，别去编排它该怎么想。

盯住成本。 推理 token 属于输出 token——贵的那一类——而且在响应里看不见，所以预算超支很常见。把 token 计数记下来。

要点回顾

• 与思维链同一条原则——token 就是计算——只是改成训进去，而不是靠 prompt 引导。
• 用基于可验证结果的强化学习训练，所以自我纠错是涌现出来的，而不是被示范出来的。
• 引入了推理时扩展（inference-time scaling）：每次请求都能拿计算换准确率。
• 擅长数学、算法竞赛、调试和约束问题；在简单任务上纯属浪费。
• 推理通常看不见，但一定计费；那条轨迹不是可信的审计记录。

下一篇： 模型蒸馏