状态与错误恢复:先区分发生了什么
用结构化观察与确定性路由处理空结果、瞬时故障、拒答和副作用未知,避免错误重试。
工具返回空字符串可能代表没找到数据、没有权限、超时被吞掉,甚至远端已经执行但响应丢失。如果这些情况都变成同一种观察,模型无法可靠决定下一步。恢复的起点是准确结果契约,随后让确定性代码处理已知错误类别,把需要语义判断的部分交给模型。
状态要保存任务事实和执行事实
任务事实包括目标、已知字段、证据与未解决事项;执行事实包括阶段、尝试次数、调用 ID、工具版本、预算和副作用状态。两者分开,才能区分“客户未提供订单号”和“订单工具暂不可用”。不要从一段长聊天中反复猜测当前阶段,关键状态应有明确字段与合法转换。
结果对象可以包含 kind、data、error_code、retryable、call_id、effect_status 和 source。结构化并不意味着任意字符串都可信:输入仍需验证,未知 kind 应走安全失败分支而非成功默认分支。错误文案可以给用户看,路由应依赖稳定类别,避免接口把“busy”改成“temporarily busy”就改变恢复策略。
五种观察,五种策略
ok 表示工具按契约返回结果,下一步仍需内容验收。empty 是成功查询但当前条件下没有结果,可以扩大查询、检查过滤或请求信息。transient 是可恢复服务故障,可在截止时间和次数预算内退避重试。refusal 需要检查请求是否越界或缺少条件,应解释限制或提供允许的替代方案,不能把反复改写当作绕过限制的办法。
unknown_effect 表示副作用是否发生不明确。例如付款提交后连接断开,应该按幂等键查询、对账或人工确认。再次直接提交可能造成重复扣款。永久参数错误应修正输入,认证或权限错误应修复凭据与授权,不能让指数退避把无效操作重复几十次。
检查点与恢复点不是同一回事
检查点记录某时刻状态,恢复点还必须知道哪些动作可以安全重放。若先扣款后写检查点,崩溃可能导致恢复时重扣;若先标完成再扣款,崩溃可能导致漏扣。需要外部幂等、事务发件箱、结果查询或补偿等设计,单独保存 JSON 不能获得跨系统原子性。
恢复时还要检查模型、提示、工具与数据版本。旧状态引用的文件可能已删除,审批可能失效,凭据可能过期。运行时应验证兼容性和权限,再决定从哪个节点继续。LangGraph 的持久执行说明强调将副作用与可重放逻辑正确组织;框架能力不能替代业务幂等设计。
运行:确定性分支
保存为 recovery.py,执行 python recovery.py。这里真实执行的是本地路由,不会请求外部工具,也没有模拟网络概率。
"""结果分类决定恢复路径,不把所有失败转换为空文本。"""
from dataclasses import dataclass
@dataclass(frozen=True)
class Observation:
kind: str
value: str = ''
attempt: int = 0
def route(obs):
if obs.kind == 'ok':
return 'verify'
if obs.kind == 'empty':
return 'broaden_query'
if obs.kind == 'transient':
return 'retry' if obs.attempt < 2 else 'handoff'
if obs.kind == 'refusal':
return 'safe_terminal'
if obs.kind == 'unknown_effect':
return 'reconcile'
return 'failed'
if __name__ == '__main__':
for obs in [Observation('ok', 'x'), Observation('empty'), Observation('transient', attempt=2),
Observation('refusal'), Observation('unknown_effect')]:
print(obs.kind, '->', route(obs))实际运行输出:
ok -> verify
empty -> broaden_query
transient -> handoff
refusal -> safe_terminal
unknown_effect -> reconcile第三个观察 attempt=2 达到本例重试上限,所以 handoff。refusal 进入 safe_terminal,unknown_effect 进入 reconcile。实际实现应进一步定义状态枚举、非法转换检查及错误映射表,并保留原始错误供内部审计,用户输出则按权限脱敏。
逐项情境追问与故障定位
以下为机制分析与手算情境。可先遮住回答独立判断,再核对输入、失败位置和选择条件;它们不代表真实模型、远端服务或设备实验记录。
任务状态:恢复任务时仅保存聊天文本,为什么重复问订单号?
关键任务事实与执行事实应结构化:已确认订单、阶段、call_id、预算、effect_status。聊天压缩可能丢字段,结构存储较稳但需迁移版本。核恢复状态是否包含已确认字段及来源,避免每次由模型从摘要重新猜当前阶段。
结果契约:工具把超时包装成空字符串,恢复为什么走偏?
空串无法区分empty、transient和unknown_effect,结果契约须有稳定kind及调用关联。结构字段增加约束成本但支持确定路由。注入未知kind检查默认安全失败,再分别测试空结果和超时;不能按用户可见错误文案做机器分支。
错误分类:503、空检索与权限失败都做指数退避,问题在哪?
瞬时故障可预算内退避,空检索应查查询条件,权限失败应修授权或终止。统一重试简单但浪费资源并可能越权。检查分类发生在适配层还是模型猜测,保留原错误并测试各类预期动作,避免错误被提前吞掉。
确定性分支:unknown_effect被默认分支当ok,怎样封住?
用枚举和穷尽路由,未知类别安全失败;unknown_effect必须对账,不是完成。确定分支可重复但只覆盖已定义类别。用付款后断连样本断言进入reconcile,并用新增类别检查拒绝,不能让未知输入落到success默认值。
恢复策略:扣款成功后写checkpoint前崩溃,恢复重扣如何避免?
检查点与外部副作用不原子,需业务幂等键、结果查询或可靠发件箱等协议。持久化降低丢状态风险但不承诺跨系统exactly-once。恢复先查同幂等键结果,再决定执行,另验证权限和版本仍有效,不能只重跑上次节点。
课后练习展开习题收起习题
先独立作答,再展开参考思路。检查自己的解释是否包含机制、条件和反例。
观察为空、工具故障与模型拒答如何分别处理?
参考思路与常见误区
空结果检查查询与过滤,工具故障按错误类别限次重试或修复配置,拒答应解释边界或提供允许替代。不要都转成空字符串,也不要用反复改写绕过限制。
常见误区:任何失败都调用同一个重试函数。
副作用未知与执行失败有什么不同?
参考思路与常见误区
未知可能是已执行但响应丢失,应按幂等键查询或对账;确认未执行的失败才可按契约决定重试。混淆会导致重复扣款等错误。
常见误区:没收到成功响应就认定没执行。
为什么路由不应解析错误文案?
参考思路与常见误区
文案可能本地化或随版本变化。稳定错误类别、状态和 retryable 等字段才适合确定性分支,原始消息保留用于内部排查。
常见误区:判断字符串包含 busy 就永久作为接口契约。
保存检查点就能避免重复副作用吗?
参考思路与常见误区
不能,外部执行和本地持久化之间存在崩溃窗口。需要外部幂等、事务机制、结果查询或补偿策略,并明确可重放范围。
常见误区:每步存 JSON 就宣称 exactly-once。
恢复旧任务前要核对哪些变化?
参考思路与常见误区
检查模型、提示、工具、数据和工作区版本,以及权限、凭据与批准有效性。旧状态可能不兼容或引用失效,恢复点需重新验证而非机械续跑。
常见误区:检查点存在就从下一行直接执行。
参考:状态、节点与边的官方说明。