推理与规划:四种模式,各有代价
学习目标
为不同任务选择 CoT / ReAct / Plan-and-Execute / ToT,并说明每种模式的成本与失败风险。
前置知识
2.2 模型原理;阶段 1 的循环概念。
核心要点
- CoT 让模型显式写出中间步骤,适合数学/逻辑题;但它是提示技术,不保证推理正确,也会增加 token。
- ReAct 把思考与工具调用交织,适合「步骤不多、需要外部信息」的任务;长任务容易上下文超载。
- Plan-and-Execute 先出计划再逐步执行,适合可分解的长任务;最大风险是计划错了却不回头。
- ToT / 反思 通过多路径探索或自我批评提升质量,代价是成倍调用;没有外部信号时,「自我反思」可能只是自我肯定。
- 推理模型时代:内置长思考的模型已把 CoT 内化,默认不必再手写「一步步想」;是否加提示应由评测决定,并关注推理预算带来的成本与延迟。
- 选型口诀:路径确定用工作流,路径不确定用 ReAct,任务长且可拆用计划,质量优先且预算足才上树搜索。
动手任务(30 分钟)
给三个任务各选一种模式并写 2 行理由 + 1 个失败风险:①查明天天气写一条朋友圈;②把一个 800 行的模块拆成三个文件;③规划 5 天北京行程(预算 5000)。写完后和同学/同事交换,看对方是否会选不同模式。
自检
Plan-and-Execute 最大的风险是什么?
用了推理模型,还需要 CoT 提示吗?
补充 · 推理模型时代的 CoT 取舍
- 先测默认行为:内置长思考的模型通常不需要再写「Let's think step by step」;加提示前先跑同一批用例,比较正确率与成本。
- 把「推理预算」当成参数:低预算跑简单任务,高预算只留给难题,不要全局拉满。
- 区分「可见推理」与「内部推理」:要求输出完整思维链会增加 token,也可能泄露敏感信息;对外只需结论 + 关键依据。
- 推理过程自洽 ≠ 事实正确:仍要用检索、计算工具或人工抽检做外部验证。