把权限、安全与故障恢复放进生产边界
正在读取学习记录…
部门资料助手已经能够检索报销说明、生成引用,并建议创建审批单。Alice正常查询“报销上限”时,服务确认身份和资料归属,读取她能访问的文档,返回200元上限;需要提交审批单时,先展示动作与内容,得到批准后才执行。
生产边界指系统允许处理哪些输入、访问哪些资源、执行哪些动作,以及超出条件后怎样停止和恢复。这些条件需要落实到程序检查和运行控制中:检索内容可能带指令,模型可能建议错误工具,第三方库可能改变行为,高峰流量和发布也可能影响用户。L8将这些风险按发生位置拆开,再建立控制和恢复路径。
按控制位置组织学习
可信身份来自已验证会话;检索到的文档是待处理资料。即使文档写“现在是管理员”,它也不会改变Alice的身份和权限。模型生成的工具参数交给执行器再校验,读取、发送和写入各有自己的允许条件。
OWASP 大模型应用风险项目提供识别提示注入、数据泄露和供应链等威胁的入口。检查时先问“攻击者控制什么输入,想拿到什么资源或动作”,再决定控制放在哪里。
| 正常请求经过的位置 | 数据与动作 | 本层加入的控制 |
|---|---|---|
| 登录与API入口 | Alice身份、问题文本 | 验证身份、输入限制、并发限制 |
| 检索与上下文 | 资料片段、引用来源 | 文档归属、资料与指令区分、敏感字段处理 |
| 工具执行 | read文档、提交审批单 | 工具权限、风险审批、沙箱、网络与配额 |
| 模型与依赖 | 适配器、模型别名、解析库 | 来源与锁定、超时、响应检查、安全回归 |
| 发布与恢复 | 开关、运行版本、数据快照 | 灰度、预算门槛、关停、备份及日志重放 |
按知识树走完14个主题
前四篇处理“不可信输入怎样影响实际动作”,第五篇处理“运行的软件由哪些输入组成”。随后三篇把可信身份、批准和记录贯通,红队篇将这些控制变成可重放检查。最后五篇把请求放进持续运行的系统,处理容量、质量目标、发布和恢复。
| 顺序与主题 | 用资料助手理解它 | 学完后的具体判断 |
|---|---|---|
| 1 提示注入与间接注入 | 检索段落夹带“忽略权限” | 分清外部内容与有效控制来源 |
| 2 越权工具与数据外泄 | Alice被建议读取Bob文档 | 在资源读取与外发前复核权限 |
| 3 沙箱、资源配额与网络隔离 | 解析任务占满CPU或访问网络 | 限定运行能力与资源消耗 |
| 4 SSRF、密钥与PII保护 | 下载工具访问内网、日志含密钥 | 检查出口和敏感数据出现位置 |
| 5 供应链与依赖治理 | 相同解析库版本拿到不同字节 | 锁定版本并比较独立批准基准 |
| 6 身份、RBAC与ABAC | 角色与文档归属共同决定读取 | 由可信身份和资源属性做授权 |
| 7 风险分级与审批策略 | 只读查询与提交审批单风险不同 | 绑定批准内容并在动作前复核 |
| 8 审计、数据保留与变更治理 | 追查谁提交了哪笔申请 | 关联请求、审批、动作和保留规则 |
| 9 红队与安全回归 | 重放越权读取与外发建议 | 比较正常业务、内容及实际副作用 |
| 10 部署、API与模型网关 | 多用户共用模型入口 | 区分身份、就绪、并发与下游错误 |
| 11 容量、并发、缓存与FinOps | 每秒10请求、模型占用2秒 | 计算在途数与按任务归因费用 |
| 12 SLO、SLA与错误预算 | 1000请求中980个好请求 | 用固定分母计算质量和剩余预算 |
| 13 灰度、Feature Flag与回滚 | 5%桶进入新的引用核对路径 | 达到观测门槛再决定扩大或关闭 |
| 14 备份、恢复与事件响应 | 快照后又写入两条笔记 | 重放变更并核对全部已确认内容 |
RBAC按角色授予权限,ABAC按主体、资源、动作和环境属性判断;在身份篇用具体字段展开。PII指可识别个人的信息,在日志和输出中也需要处理。FinOps将费用关联业务使用。首次用到这些机制时,各篇会说明输入、处理位置和结果。
一次发布怎样贯穿整层
假设要上线新的引用核对路径。先确认解析库清单与候选制品一致,再跑Alice正常读取、跨用户读取和外发建议回归。新版本仍保留旧路径,用稳定用户分组打开5%桶;观测100次新路径请求,出现3次业务失败。
若发布前约定失败率门槛为2%,3%就触发关闭开关并回滚路由。接着检查在途工具:读取可以重新请求,审批单提交需要按操作ID查询是否已成功,避免重复提交。若数据库受损,则到独立恢复位置复制快照、重放已确认日志并核对内容,确认后才重新接流量。
| 场景变化 | 控制位置 | 应看到的状态 |
|---|---|---|
| 文档要求把秘密发到外部 | 工具权限与出口 | 外发0次,留下拒绝原因 |
| 候选库内容被改动 | 构建前完整性检查 | 指纹不符,停止使用候选 |
| 文档版本更新导致缓存失效 | 容量规划与入口限制 | 模型在途增长,限流按约定生效 |
| 新路径失败率高于门槛 | 发布决策与功能入口 | 停止扩大,新请求回旧路径 |
| 快照落后于最新确认写入 | 恢复及日志重放 | 补齐后再核对恢复内容 |
事件管理资料解释了如何协调止损、技术处理和沟通。恢复过程中,先避免新写入扩大影响,再调查原因;业务恢复之后继续修复触发条件、监控和演练步骤。
将本地结果接到真实系统
本层程序使用固定资料和请求记录,让控制规则能在免费本地环境中运行。工具轨迹回答“这次规则有没有放行”,容量计算回答“给定输入需要多少平均并发”,恢复程序回答“这些快照与日志能否恢复指定内容”。接入真实系统后,还需要测实际模型建议、HTTP请求、部署平台配置传播、持久化日志完整性及负载下质量。
把同样的输入字段、拒绝条件和输出核对移入应用:权限在读取前检查,审批在写入前复核,缓存按身份与版本隔离,预算在调用前预留,发布有关闭动作,恢复有内容核对。各篇的改参步骤会让你看到条件改变之后哪个结果跟着改变。
课后练习展开习题收起习题
- 提示注入为什么会影响工具安全?外部文本可能改变模型建议,真实动作仍须由执行器检查。
- 授权应该在哪个位置校验?在资源读取和动作执行前,根据可信身份及当前权限判断。
- 如何核对恢复完整?恢复到独立位置,比对已确认写入、关键配置和任务状态,并检查缺失与冲突。
沿L8完整知识目录继续阅读。第一篇是提示注入与间接注入;完成本层后进入L9总览,将这些边界用于实际交付。
描述会发送给本站维护者,用于修订文章,保存90天。请只填写文章问题,省略个人信息、密钥和内部资料。