停止与预算:用可用结果结束一次运行
设计步数、时间与 token 预算,处理重复、停滞和人工接管,避免把停止冒充成功。
Agent 不应一直运行到模型说“完成”。预算、权限、任务进展与外部故障都可能要求提前终止。好的终止设计会保存已确认结果、未完成工作和恢复入口,让用户知道发生了什么,而不是只收到“失败”或一段没有证据的总结。
三种预算使用不同的计量方式
步数预算限制模型决策或工具执行次数,定义必须明确:一次模型返回三个并行工具调用,到底计一次决策还是三次动作。时间预算使用端到端截止时间,覆盖排队、连接、推理、重试和清理。进程内计算经过时间应使用单调时钟,避免系统时间调整导致负时长;跨进程恢复还需持久化期限并处理时钟假设。
token 预算包含输入、输出以及适用的模型计费项。工具结果回注会增大后续输入,不能只累加最终回答长度。执行前用估计做准入,执行后用供应商实际用量对账;估计不是精确扣费。并行分支要先预留各自预算,避免每个分支都以为剩余额度归自己使用。
为结束保留资源
若总预算100,结束汇总预留20,每次行动预计35,那么两次行动后已用70,第三次会把总承诺推到125,应拒绝开始。预留还应考虑必要的日志持久化、清理和状态对账。真实模型输出长度不确定,可设置输出上限并采用保守准入;即使预算耗尽,也不能丢弃已经发生的副作用记录。
时间超时后的取消通常是协作式的,不代表远端执行立即停止。对于提交订单等动作,应该进入结果待确认状态并查询外部回执。预算控制可以阻止新动作,不能自动撤销既有动作。不要把“任务已取消”和“外部操作已回滚”显示成同一句话。
进展、重复和人工介入
进展应绑定任务状态,例如获得一个新证据、解决一个待确认字段、通过一项测试。输出更多文字不算进展。重复检测可使用规范化工具名、参数和相关环境版本形成指纹;同一查询在数据更新后可能合理重跑,因此不能只比较字符串。连续无新证据、同类错误达到上限或计划反复来回改变,都可触发停滞终态。
人工接管时提供目标、当前状态、已执行动作与回执、尚未确认项、下一步选项及必要权限。请求批准应绑定具体动作和参数;用户批准查询不等于批准写入,旧批准也不应无期限覆盖新参数。继续执行前重新检查环境是否变化。可用终态包括 completed、needs_input、needs_approval、budget_exhausted、stalled、failed,它们不能全部映射为“完成”。
运行:在第三次动作前停止
保存为 budget.py,执行 python budget.py。数值是教学预算单位,不是测量真实 token、费用或运行时间。
"""可复现的预算账本;token 费用为固定教学估计。"""
def execute(limit=100, reserve=20):
spent = 0
evidence = []
for step, estimated in enumerate([35, 35, 35], 1):
if spent + estimated + reserve > limit:
return {'status': 'budget_exhausted', 'spent': spent,
'reserved': reserve, 'evidence': evidence, 'next_step': step}
spent += estimated
evidence.append('observation-' + str(step))
return {'status': 'completed', 'spent': spent, 'evidence': evidence}
if __name__ == '__main__':
print(execute())实际运行输出:
{'status': 'budget_exhausted', 'spent': 70, 'reserved': 20, 'evidence': ['observation-1', 'observation-2'], 'next_step': 3}结果保留 observation-1 与 observation-2,并指明 next_step=3。spent=70 不包含尚未消费的 reserved=20。当前程序只演示单线程额度准入;生产系统要用事务或原子操作管理并行预留,并在任务取消时释放未使用额度。
逐项情境追问与故障定位
以下为机制分析与手算情境。可先遮住回答独立判断,再核对输入、失败位置和选择条件;它们不代表真实模型、远端服务或设备实验记录。
步数/时间/token:一次决策调用三个工具,只扣一步是否准确?
取决于已公布计量定义;应分记决策次数、动作次数、端到端时间和token,回注内容也进入后续输入账。统一额度便于控制却不能替代分项观测。检查并行预算是否原子预留,使用单调时钟计进程内耗时,不以最终文本长度代表全部费用。
进展:Agent输出越来越长但缺失字段没减少,算有进展吗?
进展应是获得新证据、填补已确认字段或通过验收项,字数不是业务状态。严格进展门槛减少空转但可能误停探索,应允许有明确价值的信息收集。比较每轮未解决集合与证据版本,连续不变且无新观察时触发停滞。
重复:相同查询第二次就禁止,会误伤什么?
数据版本改变后同参数重查可能必要,指纹应含工具、规范参数与相关环境版本。强去重省成本但可能沿用过期结果。对比首次和第二次版本/时间条件;无变化重复且无收益才阻止,有变化则准许并保留原因。
人工接管:用户批准查账后Agent自动转账,哪里失守?
批准须绑定动作、参数、主体和有效范围,查询许可不授权写入。细粒度确认增加交互但防止权限扩张。接管包应含现状、已发生副作用和具体下一步;执行前核审批参数是否仍一致,变化则重新取得相应授权。
预算预留:预算100、结束预留20、每次动作35,第三次为何不能开始?
两次已用70,再加35和预留20等于125超过总额。准入按承诺额而非当前消费,执行后对账释放未用量。保守预留可能少做一步却保证能收尾。若第三次仍执行,查是否漏计预留或并行分支重复使用同一余额。
失败终态:达到最大步数后界面显示“已完成”,怎样纠正?
预算耗尽是终止原因不是成功证据,需与completed、needs_input、stalled、failed区分。简化单一状态易误导,显式终态方便恢复。保留已确认结果、未做步骤与不确定副作用,核UI是否把所有非running统一显示成功。
课后练习展开习题收起习题
先独立作答,再展开参考思路。检查自己的解释是否包含机制、条件和反例。
预算耗尽时应返回哪些可用结果和证据?
参考思路与常见误区
返回明确终态、已确认结果与来源、已发生动作和回执、未确认事项、剩余步骤及恢复条件。不要把停止写成完成,也不要丢弃副作用状态。
常见误区:只返回一句额度不足。
为什么执行前要预留结束预算?
参考思路与常见误区
行动耗尽全部资源后可能无法汇总、持久化或清理。准入应比较已用、预计新增和结束预留,实际使用后对账;预留不是已经消费。
常见误区:只要当前余额大于零就启动下一轮。
取消任务是否表示外部操作被撤销?
参考思路与常见误区
不表示,远端可能已经执行或仍在运行。应停止新动作并核查外部回执,对副作用未知的情况查询或对账,补偿也要单独执行和验证。
常见误区:本地协程取消等同付款回滚。
相同工具参数重复出现是否一定无进展?
参考思路与常见误区
需结合环境版本和目的。同一查询在数据更新后可能合理重跑;可用规范化参数与相关状态形成指纹,再结合新增证据和错误次数判断停滞。
常见误区:字符串相同就永久禁止重复。
人工批准应该绑定什么?
参考思路与常见误区
绑定具体动作、参数、资源范围、身份和有效条件。参数或环境发生重大变化应重新检查,查询授权不能自动扩展为写入授权。
常见误区:把一次同意当成无限期全权限。