Agent 与任务环境:先定义成功,再决定自治
从 PEAS、部分可观察环境到 Workflow 边界,把 Agent 设计落到输入、动作与验证条件。
用户说“帮我处理退款”,系统不能仅凭一句自然语言就开始执行。它必须知道订单是谁的、商品是否满足政策、用户是否授权退款,以及怎样证明已经办完。Agent 的基本结构是通过感知获得环境信息,再选择行动影响环境。LLM 可以充当决策模块,但能聊天并不是完成任务的充分条件。
用 PEAS 写清任务契约
PEAS 分别描述绩效标准 Performance、环境 Environment、执行器 Actuators、传感器 Sensors。以退款助手为例:绩效不是回答流畅,而是符合政策、金额正确、无重复退款,并在允许时间内给出可验证结果;环境包含订单、支付渠道和人工客服;执行器包括查询、创建申请和提交退款;传感器包括用户消息、工具结果、支付回执与审计事件。
这四项要一起写。只给退款工具而不给状态查询工具,超时后就难以确认是否已经扣款;只按完成数量奖励,可能鼓励越权处理。绩效应区分硬约束和软目标:权限及资金安全是不可用“更快”抵消的约束,延迟与成本才可在合规方案中权衡。一次工具返回200也不是绩效本身,要核对业务状态及外部回执。
可观察性决定需要哪些状态
完全可观察意味着当前观测足以用于决策,不等于所有数据都能联网获取。退款系统通常部分可观察:缓存可能旧,用户可能没提供订单号,支付接口可能返回“处理中”。inventory=None 表示不知道库存,inventory=0 表示确认无库存,两者会产生不同动作。把未知默认成零会漏处理,把未知默认成有货会误操作。
因此状态不只保存最新一段聊天,还应保存事实、来源、观测时间和未确认事项。环境若会随时间变化,旧库存不能永久沿用;若动作随机或网络不可靠,同一请求也可能产生不同结果。单任务还是多主体环境、回合制还是持续变化,都影响是否必须重新读取、锁定资源或协调冲突。没有信息时可以查询,也可以明确请求用户补充,不能让模型用语言补齐事实。
Workflow 与 Agent 的工程边界
Workflow 把主要执行路径写在代码或流程图里,Agent 则允许模型根据当前状态动态选择下一步。二者是控制权的分配,并非产品等级。固定发票字段抽取、格式检查和入库,通常用明确工作流更容易验收;问题线索不完整、需要决定查询顺序的故障排查,可以把有限的选择权交给模型。Anthropic 对工作流与 Agent 的区分可作为设计起点,具体选择仍要用任务数据验证。
自治至少包含选工具、改计划、写资源、跨会话持续执行几个维度。允许模型自由查询,不代表允许它提交退款。一个合理系统可以让模型自主查证,但写操作必须通过代码权限检查及确认。动作集合越大,越需要预算、验证器和停止条件;先用最小可用动作集合建立基线,再判断动态决策到底解决了什么失败案例。
运行:同一目标为什么会有四种动作
保存下面程序为 environment.py,用 Python 3.13 执行 python environment.py。没有依赖、密钥或网络调用。它是真实执行的本地规则,展示控制边界,不是测量 LLM 自治能力。
"""部分可观察环境的确定性教学策略,不调用模型。"""
def choose(observation, can_write=False):
if observation.get('inventory') is None:
return 'read_inventory'
if observation['inventory'] == 0:
return 'report_out_of_stock'
return 'reserve' if can_write else 'request_authorization'
if __name__ == '__main__':
for state, allowed in [({}, False), ({'inventory': 0}, False),
({'inventory': 2}, False), ({'inventory': 2}, True)]:
print(state, allowed, '->', choose(state, allowed))实际运行输出:
{} False -> read_inventory
{'inventory': 0} False -> report_out_of_stock
{'inventory': 2} False -> request_authorization
{'inventory': 2} True -> reserve第一行没有库存信息,因此先读;第二行已确认无库存,因此报告;第三行有库存却没有写权限,因此请求授权;第四行才能预留。生产环境还要防止查询后库存变化,使用服务端事务或条件更新。这个程序没有模拟并发库存,也没有把“选择 reserve”冒充预留已经成功。
面试时的判断顺序
先说成功标准和失败成本,再说可观测事实、允许动作和验证方式,最后解释哪一段需要动态决策。若所有输入都可以被稳定规则覆盖,模型只是增加不确定性,普通规则就是更合适的方案。若失败来自工具缺失或数据陈旧,换更强模型也未必解决。
逐项情境追问与故障定位
以下为机制分析与手算情境。可先遮住回答独立判断,再核对输入、失败位置和选择条件;它们不代表真实模型、远端服务或设备实验记录。
感知行动:Agent说“已预留库存”但没有回执,算行动完成吗?
感知读到库存只形成观察,选择reserve是动作意图,执行回执和状态查询才支持结果。只读建议成本低,真实写操作需权限与并发条件。按观察→选择→执行→确认逐段查事件,若只有选择事件应标未执行,而非用流畅回答补业务事实。
PEAS:退款助手只优化处理件数,为什么可能越权?
PEAS绩效需把权限、金额和不重复退款设硬约束,再优化时延/数量;环境、执行器和传感器还要提供查询与回执。只用件数容易奖励错误动作。拿一次超时退款检查是否有结果查询能力,缺传感器应补接口,而不是奖励模型更积极执行。
环境可观察性:库存None和0走同一无货分支,会漏掉什么?
None是未观察,0是确认无货;部分可观察环境需保存来源、时间和不确定状态。保守查询增加延迟但避免将未知当真。用None、0、有货但旧版本三个场景检查动作分别为查询、报告、重查/条件更新,定位默认值是否吞掉未知。
自治程度:允许自主检索是否同时授权自动退款?
自治包含选工具、改计划、写资源和跨会话运行,必须分别授权。查询可宽,资金写操作应由代码检查可信身份和授权范围。更高自治减少等待也增加失败成本;检查工具注册和权限边界,测试模型提出越权调用时在执行前被拒绝。
Workflow/Agent 边界:固定发票抽取也做无限Agent循环,有何问题?
路径稳定的抽取→校验→入库可用Workflow,动态排错才可能需要模型选择查询。Agent增加适应性也带来预算和终态不确定。将失败样本分类:若主要是格式/权限问题,先补确定性校验;只有固定流程无法选择路径时再比较动态决策收益。
课后练习展开习题收起习题
先独立作答,再展开参考思路。检查自己的解释是否包含机制、条件和反例。
什么任务用普通规则比 Agent 更合理?
参考思路与常见误区
输入范围稳定、路径可枚举、验收确定且错误成本高的任务优先规则或工作流。只有动态选择工具和路径确实能解决已有失败时才增加模型自治,并用相同任务集比较成功率与成本。
常见误区:把自治程度当成产品先进程度。
退款任务的 PEAS 应怎样写?
参考思路与常见误区
绩效包含政策合规、金额正确和无重复;环境包含订单与支付渠道;执行器是查询和提交等工具;传感器是消息、工具结果和回执。四项要互相支撑,提交后必须有观察最终状态的能力。
常见误区:只写工具列表,不写成功条件和反馈来源。
库存未知和库存为零为何不能同处理?
参考思路与常见误区
未知是缺少观测,应读取或澄清;零是已确认事实,可据此报告缺货。还需保存观测时间,因为库存会变化,旧事实不能永久支持写操作。
常见误区:用默认零消除缺失值后直接业务决策。
允许自主查询是否等于允许自主写入?
参考思路与常见误区
不等于。选工具、改计划、写资源和持续执行是不同自治维度,写入权限由可信身份、动作范围和必要确认决定,不能由模型文本自行赋予。
常见误区:一次授权后所有工具都可自由执行。
工具 HTTP200 为什么不等于任务成功?
参考思路与常见误区
它只表示特定传输或接口阶段成功。还需验证业务状态、对象、金额及外部回执与目标一致;处理中或空结果都可能在成功响应中出现。
常见误区:把接口成功率当成任务完成率。
进一步阅读:AIMA 官方教材入口中的智能体与任务环境章节。下一节从历史范式理解规则、学习策略与语言模型的差别。