智能体不是”跑起来就不用管”的自动化。真正能上生产的系统，都在关键节点保留了人决策的入口：风险动作先审批，不确定时主动提问，结果可回放可追溯。这不是保守，而是让自动化规模化的前提。
为什么自治度越高越需要审批点
Anthropic 在构建有效智能体的经验里指出：智能体在执行中需要从环境获取真实反馈来评估进展，并可以在检查点或遇到阻塞时暂停等待人类反馈。自主性带来更高成本和错误累积风险，因此需要沙箱测试与适当护栏。
审批点不该均匀撒在流程里，而应放在三类位置：不可逆动作（发送、删除、支付）、高风险动作（改生产配置、改预算）、低置信度判断（信息不足时的多方案选择）。其余步骤让它自己跑。
四种落地形态
| 形态 | 机制 | 适用 |
|---|---|---|
| 前置审批 | 动作执行前弹确认，人批准才继续 | 不可逆操作 |
| 中途打断 | 流程在特定节点中断，等待输入后恢复 | 需要补信息或多方案选择 |
| 事后复核 | 先执行可回滚动作，人再抽检 | 低风险批量任务 |
| 停止条件 | 达到迭代上限或预算上限自动停 | 长任务兜底 |
工程实现要点
- 状态可持久化：中断后要能从断点恢复，而不是重跑整个流程。
- 审批请求要带证据：人要看到它为什么这么做——依据的数据、影响的规模、可回滚方式。
- 预算与次数上限：Anthropic 的经验里也强调停止条件，如最大迭代次数，用于保持控制。
- 全链路可追溯：每次模型调用、工具调用与结果都要留痕，出问题能定位。
审批太多会不会失去自动化的意义？
会。判断标准是人的介入是否带来信息增量：如果人每次都无脑点同意，说明这个点不该设；如果人在十个审批点里拦下一次真实事故，这个成本就值得。按拦截率动态调整，而不是一次性定死。
一个可参考的落地节奏
先只读后写：第一阶段只让智能体分析和给建议，人执行；第二阶段允许它执行可回滚动作；第三阶段才放开不可逆动作，且保留审批。 LangChain 的付费广告代理就是这条路径——先分析给建议，再走人工审批，最后验证改动是否正确应用。
配套能力建议一起建设：智能体可观测性与链路追踪让审批有据可依，工具设计实践决定审批粒度是否可控，框架层实现可参考 LangChain 入门教程。
哪些动作必须人工审批？
不可逆且影响外部的动作：对外发送、支付与预算调整、删除数据、修改生产环境配置。可回滚的内部改动可走事后抽检。
智能体主动提问和停下来等审批有什么区别？
提问是信息不足时补齐输入，属于流程内的交互；审批是对已形成的决策做授权，属于控制门。两者触发条件不同，不要合并成一个。
中断后怎么恢复？
靠持久化状态。把执行进度与中间结果存下来，恢复时按状态继续，避免重复消耗与重复副作用。
怎么衡量审批点设置得是否合理？
看两个指标：人工同意率（接近百分之百说明该取消）与拦截到的真实问题数（长期为零说明该收紧或前移）。
评论 (0)