提示词 · 推理

该不该让模型「先想再做」

简单任务加推理只会变慢变贵;复杂多步任务不加推理,错误率会明显上升。判断标准是:中间步骤是否影响结果。

判断标准

任务要推理吗
抽取字段、格式转换不需要
单步分类不需要(或极简)
多条件判断、规则套用需要
数学、逻辑、多步计算需要
长文档综合结论需要,且要先列证据

两种做法

  1. 推理模型:直接用带推理能力的型号,思考过程由模型内部处理;注意思考 token 也计费;
  2. 提示词引导:在普通模型上要求「先列要点,再给结论」,适用于需要审核中间过程的场景。

提示词写法

prompttext
先按以下步骤分析,再给出最终结论:
1. 列出与问题相关的原文事实(逐条,附出处);
2. 指出这些事实之间的冲突或缺口;
3. 给出结论,并说明依据哪几条事实。

最终输出用  包裹,过程放在  内。

三个坑

  • 推理过程被直接展示给用户:多数场景应只输出结论,过程留作日志;
  • 思考 token 打爆预算:推理模型的思考部分同样计费,长任务要估算;
  • 让模型「解释自己」:模型事后生成的解释未必是真实推理过程,不能当作审计依据。

常见问题

所有任务都该加「一步步思考」吗?

不需要。抽取、分类等单步任务加推理只会增加延迟与成本;多步判断类任务才需要。

推理模型的思考过程能当审计依据吗?

不能当作可靠依据;如果需要可核查的过程,应要求模型输出带出处的证据列表。