Agent Loop:从调用意图到可验证终态
拆开观察、决策、参数验证、执行和回注,明确每一步的事件与失败责任。
模型输出 refund(order_id) 只是提出动作,不表示退款发生。真正的闭环必须由运行时读取决策、验证参数和权限、执行工具、接收结果、把结果回注,再决定继续还是结束。将这几个阶段合并成“Agent 调了工具”,会使日志无法区分模型错误、适配器错误和外部服务故障。
一轮循环的责任划分
观察包含用户目标、可信系统约束、已验证事实和工具反馈。决策可以是工具请求、最终回答或需要澄清的信息。适配层将供应商的消息结构转换为内部类型,保留调用 ID、工具名称、参数、停止原因及用量。流式参数尚未拼装完时不能提前执行;JSON 能解析也不能跳过 schema 和业务校验。
工具执行前,运行时查注册表而不是动态执行模型给出的任意函数名。参数里的用户 ID 不应覆盖认证身份。执行后得到的工具结果至少要有调用关联、状态、数据或错误分类。回注时保留同一调用 ID,使模型能知道哪一个请求失败;并行调用的完成顺序可能不同,不能靠数组位置猜对应关系。
终态是业务事实,不是模型语气
模型说“已完成”时,代码应检查任务验收条件。只读问答可能要求引用存在且支持结论;写操作可能要求外部回执和最终状态查询。循环还必须有非成功终态,如需要用户信息、权限不足、预算耗尽、工具永久失败。最大步数只是保险,不能代替进展判断和业务验收。
假设模型提出查订单,工具超时,模型随后说“订单已取消”。缺少成功回执时,运行时应保留不确定状态。若上一次动作具有副作用,超时还可能意味着服务端成功但响应丢失,应查询或对账,不能盲目重放。模型的文本是待核验输出,外部系统记录才是动作是否发生的重要证据。
模型适配层应保留什么
对上提供统一的 call/final/refusal/error 结果,不意味着抹平供应商差异。仍需保留原始停止原因和可追溯元数据,区分正常结束、输出截断、内容拒绝与传输故障。用量可能延迟返回,费用账本要能够核对估计与实际值。工具参数缺字段时可把结构化错误回注给模型修正,但权限拒绝不能通过改写参数绕过。
运行:脚本决策,真实本地工具
保存为 loop.py,执行 python loop.py。scripted_model 是固定脚本,不是 LLM。sum 的确在本机执行,日志展示执行和回注的先后关系。
"""脚本决策配真实本地求和工具,展示调用与执行的不同事件。"""
def scripted_model(messages):
if messages[-1]['role'] == 'tool':
return {'kind': 'final', 'text': 'sum=' + str(messages[-1]['value'])}
return {'kind': 'call', 'id': 'c1', 'name': 'sum', 'args': [2, 3]}
def run():
messages = [{'role': 'user', 'text': '2+3'}]
events = []
for _ in range(3):
decision = scripted_model(messages)
events.append('proposed:' + decision['kind'])
if decision['kind'] == 'final':
events.append(decision['text'])
return events
if decision['name'] != 'sum' or any(type(x) is not int for x in decision['args']):
raise ValueError('invalid call')
result = sum(decision['args'])
events.append('executed:' + decision['id'])
messages.append({'role': 'tool', 'call_id': decision['id'], 'value': result})
events.append('observed:' + str(result))
raise RuntimeError('step budget exceeded')
if __name__ == '__main__':
print('\n'.join(run()))实际运行输出:
proposed:call
executed:c1
observed:5
proposed:final
sum=5第一次决策提出 c1,随后求和执行,结果5回注;第二次决策看见工具结果后返回终态。本例3步预算足够,但没有并发、持久化和远程重试。把 scripted_model 换成真实适配器时,控制边界仍应保留,不应把模型调用直接塞进工具执行函数。
调试时可以依次检查:目标是否进入上下文、调用是否完整、校验是否通过、工具是否产生回执、回注是否关联正确、终态是否有验收证据。这比只观察最终一句回答更容易定位问题。
逐项情境追问与故障定位
以下为机制分析与手算情境。可先遮住回答独立判断,再核对输入、失败位置和选择条件;它们不代表真实模型、远端服务或设备实验记录。
观察决策执行回注:工具结果5已返回,模型仍重复求和,怎么定位?
查看call_id对应观察是否真正回注到下一轮输入,执行完成不等于模型收到结果。统一事件闭环增加记录成本但能区分执行与适配错误。以c1请求2+3固定输入检查提议、校验、执行、结果、回注顺序,缺任何一环都不能归咎模型推理差。
模型适配:供应商返回length被适配器映射为final,会怎样?
输出截断与正常结束不同,丢停止原因可能让半截工具参数被执行。统一内部call/final/refusal/error便于复用,但保留原停止原因、用量和原始元数据。用截断JSON/拒绝/正常终止三样本测试,不把可解析部分当完整调用。
终态:模型说订单已取消,工具却timeout,该设哪种终态?
设结果未确认或需对账,不能成功;外部动作可能已发生也可能未发生。明确失败/待信息/预算耗尽等终态便于恢复,但终态种类须与业务契约匹配。查询订单最终状态和回执,缺证据先保留不确定,避免盲重放造成重复动作。
工具错误:参数错误、权限拒绝、503能统一让模型改参重试吗?
参数错误可用结构化反馈修正,权限拒绝不得通过改身份绕过,503可在预算内按幂等性重试。分类增加实现成本但防止错误恢复。用三种固定工具结果验证路由,并检查同一call_id贯穿日志,避免错误回注给另一并行调用。
真实与脚本决策区别:固定脚本看见sum结果就输出5,证明模型会用工具吗?
它证明本地工具与控制顺序,不证明模型选择工具或生成参数。脚本确定可回归,真实模型有随机性和接口差异。报告应分开脚本决策和真实执行,接真实适配器后保留同样校验/终态门禁,不能把替身成功改名成模型实测。
课后练习展开习题收起习题
先独立作答,再展开参考思路。检查自己的解释是否包含机制、条件和反例。
模型提出调用与工具已经执行如何区分?
参考思路与常见误区
提出调用仅产生意图事件,经过参数、权限和注册表校验后才能执行,执行后要记录回执与调用 ID。没有执行记录或外部状态证据不能声称动作发生。
常见误区:看到函数名就展示操作成功。
并行工具回注为什么必须保留 call_id?
参考思路与常见误区
完成顺序可能与请求顺序不同,call_id 将每个结果或错误关联到原调用。靠数组位置会把结果错配,影响后续决策和审计。
常见误区:按照最快返回顺序给结果编号。
模型输出 final 后运行时还有什么责任?
参考思路与常见误区
检查任务验收条件和证据,区分完成、需要澄清、预算耗尽及失败。最终文本可能错误宣称成功,写操作尤其需要外部回执或状态查询。
常见误区:final 类型等同业务 completed。
流式工具参数为什么不能收到一半就执行?
参考思路与常见误区
未完成参数可能被后续片段补充或修正,尚无法完整解析和校验。应等待完整调用,验证 schema、业务约束及权限后执行,保留截断或解析失败状态。
常见误区:为了低延迟提前执行不完整请求。
脚本决策替身能证明哪些能力?
参考思路与常见误区
可验证循环顺序、工具执行、结果关联及停止逻辑;不能证明模型理解、选择工具或规划能力。真实模型评估需记录版本、配置、输入及实际输出。
常见误区:固定脚本成功就宣称 Agent 智能效果已验证。