AgentDepthAgent 工程学习指南
输入概念或问题,检索正文和待编写目录。
第一次学习?从 L0 总览开始 →

把权限、安全与故障恢复放进生产边界

我的学习 →

正在读取学习记录…

部门资料助手已经能够检索报销说明、生成引用,并建议创建审批单。Alice正常查询“报销上限”时,服务确认身份和资料归属,读取她能访问的文档,返回200元上限;需要提交审批单时,先展示动作与内容,得到批准后才执行。

生产边界指系统允许处理哪些输入、访问哪些资源、执行哪些动作,以及超出条件后怎样停止和恢复。这些条件需要落实到程序检查和运行控制中:检索内容可能带指令,模型可能建议错误工具,第三方库可能改变行为,高峰流量和发布也可能影响用户。L8将这些风险按发生位置拆开,再建立控制和恢复路径。

按控制位置组织学习

可信身份来自已验证会话;检索到的文档是待处理资料。即使文档写“现在是管理员”,它也不会改变Alice的身份和权限。模型生成的工具参数交给执行器再校验,读取、发送和写入各有自己的允许条件。

资料助手的输入、动作、运行和恢复四组控制
四组方框组织本层学习主题,依次覆盖输入与依赖、身份与动作、验证与请求链、发布与恢复;下方是故障处理学习路径。

OWASP 大模型应用风险项目提供识别提示注入、数据泄露和供应链等威胁的入口。检查时先问“攻击者控制什么输入,想拿到什么资源或动作”,再决定控制放在哪里。

正常请求经过的位置数据与动作本层加入的控制
登录与API入口Alice身份、问题文本验证身份、输入限制、并发限制
检索与上下文资料片段、引用来源文档归属、资料与指令区分、敏感字段处理
工具执行read文档、提交审批单工具权限、风险审批、沙箱、网络与配额
模型与依赖适配器、模型别名、解析库来源与锁定、超时、响应检查、安全回归
发布与恢复开关、运行版本、数据快照灰度、预算门槛、关停、备份及日志重放

按知识树走完14个主题

前四篇处理“不可信输入怎样影响实际动作”,第五篇处理“运行的软件由哪些输入组成”。随后三篇把可信身份、批准和记录贯通,红队篇将这些控制变成可重放检查。最后五篇把请求放进持续运行的系统,处理容量、质量目标、发布和恢复。

顺序与主题用资料助手理解它学完后的具体判断
1 提示注入与间接注入检索段落夹带“忽略权限”分清外部内容与有效控制来源
2 越权工具与数据外泄Alice被建议读取Bob文档在资源读取与外发前复核权限
3 沙箱、资源配额与网络隔离解析任务占满CPU或访问网络限定运行能力与资源消耗
4 SSRF、密钥与PII保护下载工具访问内网、日志含密钥检查出口和敏感数据出现位置
5 供应链与依赖治理相同解析库版本拿到不同字节锁定版本并比较独立批准基准
6 身份、RBAC与ABAC角色与文档归属共同决定读取由可信身份和资源属性做授权
7 风险分级与审批策略只读查询与提交审批单风险不同绑定批准内容并在动作前复核
8 审计、数据保留与变更治理追查谁提交了哪笔申请关联请求、审批、动作和保留规则
9 红队与安全回归重放越权读取与外发建议比较正常业务、内容及实际副作用
10 部署、API与模型网关多用户共用模型入口区分身份、就绪、并发与下游错误
11 容量、并发、缓存与FinOps每秒10请求、模型占用2秒计算在途数与按任务归因费用
12 SLO、SLA与错误预算1000请求中980个好请求用固定分母计算质量和剩余预算
13 灰度、Feature Flag与回滚5%桶进入新的引用核对路径达到观测门槛再决定扩大或关闭
14 备份、恢复与事件响应快照后又写入两条笔记重放变更并核对全部已确认内容

RBAC按角色授予权限,ABAC按主体、资源、动作和环境属性判断;在身份篇用具体字段展开。PII指可识别个人的信息,在日志和输出中也需要处理。FinOps将费用关联业务使用。首次用到这些机制时,各篇会说明输入、处理位置和结果。

一次发布怎样贯穿整层

假设要上线新的引用核对路径。先确认解析库清单与候选制品一致,再跑Alice正常读取、跨用户读取和外发建议回归。新版本仍保留旧路径,用稳定用户分组打开5%桶;观测100次新路径请求,出现3次业务失败。

若发布前约定失败率门槛为2%,3%就触发关闭开关并回滚路由。接着检查在途工具:读取可以重新请求,审批单提交需要按操作ID查询是否已成功,避免重复提交。若数据库受损,则到独立恢复位置复制快照、重放已确认日志并核对内容,确认后才重新接流量。

场景变化控制位置应看到的状态
文档要求把秘密发到外部工具权限与出口外发0次,留下拒绝原因
候选库内容被改动构建前完整性检查指纹不符,停止使用候选
文档版本更新导致缓存失效容量规划与入口限制模型在途增长,限流按约定生效
新路径失败率高于门槛发布决策与功能入口停止扩大,新请求回旧路径
快照落后于最新确认写入恢复及日志重放补齐后再核对恢复内容

事件管理资料解释了如何协调止损、技术处理和沟通。恢复过程中,先避免新写入扩大影响,再调查原因;业务恢复之后继续修复触发条件、监控和演练步骤。

将本地结果接到真实系统

本层程序使用固定资料和请求记录,让控制规则能在免费本地环境中运行。工具轨迹回答“这次规则有没有放行”,容量计算回答“给定输入需要多少平均并发”,恢复程序回答“这些快照与日志能否恢复指定内容”。接入真实系统后,还需要测实际模型建议、HTTP请求、部署平台配置传播、持久化日志完整性及负载下质量。

把同样的输入字段、拒绝条件和输出核对移入应用:权限在读取前检查,审批在写入前复核,缓存按身份与版本隔离,预算在调用前预留,发布有关闭动作,恢复有内容核对。各篇的改参步骤会让你看到条件改变之后哪个结果跟着改变。

课后练习展开习题收起习题
  1. 提示注入为什么会影响工具安全?外部文本可能改变模型建议,真实动作仍须由执行器检查。
  2. 授权应该在哪个位置校验?在资源读取和动作执行前,根据可信身份及当前权限判断。
  3. 如何核对恢复完整?恢复到独立位置,比对已确认写入、关键配置和任务状态,并检查缺失与冲突。

沿L8完整知识目录继续阅读。第一篇是提示注入与间接注入;完成本层后进入L9总览,将这些边界用于实际交付。

图片查看器
100%

文章配图 · 按 Esc 关闭