Agent轨迹评测:回复成功,不代表事情真的办成
用可执行状态和不变量区分工具选择、参数、恢复、效率以及最终任务成功。
退款助手回复“已经完成退款”,但数据库没有改变,最终文本看起来正确,任务仍失败。反过来,助手真的退了款,却因为超时重试退了两次,目标状态看起来也满足,但破坏了业务不变量。因此Agent验收不能只打最终回复分,也不能只看“是否调用过目标工具”。
将目标和不变量分开
目标描述期望变化,例如o1从paid变为refunded。不变量描述不能发生的变化,例如o2仍为paid、o1只产生一笔退款、金额不能超过实付。测试应检查目标和不变量都成立,并验证权限与审批前置条件。实际业务可能通过账本或事件流而不是一个状态字段证明退款。
轨迹评价补充故障定位:工具名称是否匹配意图,参数是否符合schema与业务约束,调用顺序是否满足依赖,错误后是否恢复,是否执行不必要的读写。多个合法路径可能达到同一结果,所以不应把唯一参考轨迹当成所有任务的标准答案;关键安全步骤和不可交换依赖才应强约束。
实际运行一个可重置环境
Python 3.13执行 python -X utf8 agent_state_eval.py。程序只修改内存字典,没有支付或外部写操作。执行器故意允许重复追加退款事件,以便让评分断言暴露缺陷;这不是可用于生产的退款实现。
"""内存订单环境:验收状态、重复副作用及试验重置。"""
from copy import deepcopy
INITIAL={'orders':{'o1':'paid','o2':'paid'},'refunds':[]}
def execute(actions):
state=deepcopy(INITIAL);trace=[]
for action in actions:
if action['tool']!='refund':trace.append('错误工具');continue
order=action.get('order')
if order not in state['orders']:trace.append('错误参数');continue
# 故意保留重复退款风险,让验收断言捕获。
state['orders'][order]='refunded';state['refunds'].append(order);trace.append('ok')
return state,trace
def evaluate(actions):
state,trace=execute(actions)
goal=state['orders']['o1']=='refunded'
invariant=state['orders']['o2']=='paid' and state['refunds'].count('o1')==1
return {'goal':goal,'invariant':invariant,'success':goal and invariant,'calls':len(actions),'trace':trace}
if __name__=='__main__':
good=[{'tool':'refund','order':'o1'}]
print('一次退款',evaluate(good));print('重复退款',evaluate(good*2))
print('改错订单',evaluate([{'tool':'refund','order':'o2'}]))
print('初始状态未污染',INITIAL['orders'])实际输出:
一次退款 {'goal': True, 'invariant': True, 'success': True, 'calls': 1, 'trace': ['ok']}
重复退款 {'goal': True, 'invariant': False, 'success': False, 'calls': 2, 'trace': ['ok', 'ok']}
改错订单 {'goal': False, 'invariant': False, 'success': False, 'calls': 1, 'trace': ['ok']}
初始状态未污染 {'o1': 'paid', 'o2': 'paid'}一次调用同时满足目标与不变量。重复两次虽然o1仍是refunded,但退款计数为2,因此失败。改错订单时目标不满足,o2也被错误修改。每次执行从deepcopy(INITIAL)开始,所以前一题不会替后一题提前完成目标。
恢复能力需要故障注入
至少覆盖超时前未执行、执行成功后响应丢失、部分写入、参数错误、权限拒绝和工具不可用。尤其“执行成功但响应丢失”不能靠盲目重试解决,应有幂等键与查询结果的机制。评分要区分恢复成功、重复副作用以及以失败说明正确结束。
环境重置还包括数据库、文件、队列、缓存、工具stub和时钟。随机用户模拟器应固定种子或多次运行,并记录模拟器版本;真实网络工具的内容变化会使结果难复现。每个测试保留初始快照、动作、返回、最终diff与断言结果,而不是只保存聊天记录。
可靠性与效率共同报告
任务成功率按完整任务计算,工具选择准确率按调用计算,两者分母不同。只统计成功任务的平均耗时会漏掉耗到deadline的失败任务;只看平均调用数也可能奖励提前放弃。可以报告总成功率、不同故障下的恢复率、每任务成本、p95延迟与不必要调用,并分层比较任务难度。
多次运行同一个任务时,平均成功率衡量典型表现,“连续多次都成功”的要求更接近可靠执行。具体基准对pass@k或pass^k有不同定义,不能互换标签。参考τ-bench官方仓库理解工具—用户交互任务的评测环境;本文没有运行该基准,也没有声称上述微型环境等价于其官方评分。
综合边界推演与面试追问
o1退款一次目标和不变量都通过,退款两次终态仍refunded却事件计数失败,改o2则连资源都错。工具名refund正确不证明order_id正确,动作参数正确也不证明工具成功或结果已持久化。
唯一参考轨迹便于自动比较却会错杀等价路径;终态指标允许多路径但可能漏中途越权,因此同时约束关键安全步骤。少调用通常省钱,却不能奖励提前放弃;质量、恢复率、完整任务费用与尾延迟一起报告。
每题重置数据库文件队列缓存和工具替身,分别注入提交前失败、提交后回执丢失与部分写入。用初态/动作/返回/终态diff断言,响应丢失先查幂等回执,不重放重复退款。人工内存环境只验证状态机制,不代表真实支付可靠性。
课后练习展开习题收起习题
先独立作答,再展开参考思路。检查自己的解释是否包含机制、条件和反例。
最终回复说完成,如何确认任务真的完成?
参考思路与常见误区
检查可信环境中的可执行目标断言与状态diff,而不是依赖模型自述。例如数据库状态、事件账本和副作用记录。
常见误区:礼貌肯定的回复就是成功。
目标与不变量有什么区别?
参考思路与常见误区
目标描述必须发生的变化,如o1退款;不变量描述不能破坏的条件,如o2不变、退款仅一次。两者同时成立才通过。
常见误区:只看最终状态字段,忽略重复事件。
为什么不应强制所有成功轨迹完全一致?
参考思路与常见误区
同任务可能有多个合法路径,严格匹配会错杀有效方案。应约束关键依赖、安全步骤、终态与效率,并允许等价过程。
常见误区:唯一参考轨迹就是唯一正确实现。
工具执行成功后响应丢失,应测试什么?
参考思路与常见误区
测试重试是否借助幂等键或查询结果避免重复副作用,并验证最终状态、事件次数与失败说明。
常见误区:超时意味着没有执行,可以无限重试。
为何每题需要环境重置?
参考思路与常见误区
前题留下的数据库、缓存、文件或队列状态可能提前完成后题或改变工具行为。固定初始快照并清理状态,记录随机种子与版本。
常见误区:聊天历史清空就等于环境重置。