智能体成本怎么算：token、工具调用与重试的账本模型

用「单次调用价格 × 调用次数」估算智能体成本，误差通常在一个数量级以上。真实成本等于「单次调用价 × 有效调用次数 × 上下文膨胀系数」，其中有效调用次数 = 计划步数 × 重试倍率。下面给出可落地的账本模型、一个完整算例，以及五层限额的具体阈值。

为什么单次调用计算器一定会低估

四个结构性原因，按隐蔽程度递增：

1. 循环把一切都乘上去了：产品里一个「任务」，在使用日志里是十几到几十次调用。
2. 上下文会累积：第 12 次调用的输入，包含前 11 次的完整对话记录。经验法则是「系统提示词 + 最终对话长度的一半」。
3. 工具返回值算输入 token：一个网页、一份 SQL 结果、一段文件 diff，模型都要按输入价付费读一遍。
4. 推理 token 按输出计费：推理模型的思考过程是你付了钱但看不见的 token，规划步骤用了它，输出预算要显著高于可见答案长度。

账本模型：四个变量

公式：单任务成本 = S × R × (T_in × P_in + T_out × P_out)。月度成本再乘以任务量，并额外留 20%–30% 缓冲应对上下文漂移。

一个算例

假设一个「调研 + 写作 + 自审」智能体：8 步、每步 2 次调用 = 16 次计划调用，平均每次 6000 输入 / 800 输出 token，实测重试率 15%。

单次调用成本 = 6000/1M × 1.25 + 800/1M × 10 = 0.0075 + 0.0080 = $0.0155
有效调用次数 = 16 × 1.15 = 18.4
单任务成本   = 18.4 × 0.0155 ≈ $0.285
月度（1000 任务）= $285

只换模型就有 17 倍价差。但注意：把 8 步砍成 7 步，省下的钱通常比任何提示词压缩项目都多——少一步循环，等于同时省掉这一步的调用和它带来的上下文膨胀。

五层限额，别只设一个总金额上限

单一总金额上限的问题在于「失效太晚」——等它触发时钱已经花完了。生产环境至少要五层：

• token 层：单任务输入上限、输出上限（例：2 万 / 8 千）。
• 模型调用层：单任务最多几次模型调用（例：12 次）。
• 工具调用层：按工具类型分别限额（例：检索 5 次、写库 2 次）。
• 重试层：区分错误类型——瞬时错误允许有限重试，校验类错误直接不重试。
• 金额层：单任务硬上限 + 日预算（例：$0.75 / $100）。

降级规则要提前写死

预算快见底时降什么、按什么顺序降，必须在上线前定好，不能留给运行时临场决定：

1. 模型降级：旗舰档 → 主力档 → 轻量档。
2. 关掉非关键工具（如扩展检索）。
3. 裁剪上下文：只保留最近 N 轮 + 任务目标摘要。
4. 停止重试，返回部分结果。

原则是「清晰地结束」优于「昂贵地卡住」：如果剩余预算不足以安全完成下一步，就干净地终止，返回已完成的部分、停止原因和最省的下一步建议。

落地清单

两个容易忽略的指标

• 每成功任务成本：包含重试和返工的真实单位成本，比「每次调用成本」更能反映健康度。
• 人工复核分钟数：不该一味压缩。合规、资金相关场景里，人工时间是成本的一部分，但砍掉它会把成本转移到事故上。

可观测性基础设施怎么搭，见 智能体可观测性怎么做；重试与降级的四层设计参考 智能体工具调用失败怎么办；并行工具调用带来的成本副作用，见 智能体并行工具调用；想省掉无效的自审循环，可以结合 智能体自我反思模式 一起看。