L5 总览:为 Agent 找资料、组上下文、管理记忆
正在读取学习记录…
上下文是一次模型请求中交给模型阅读的信息。除了用户的问题,它还可以包含聊天历史、工具返回值、业务规则和资料片段。Agent 要回答“退货后多久能到账”,就需要拿到适用于这笔订单的退款规则,再把相关段落放进请求。
L5 学的是如何找到和整理这些信息:资料怎样进入系统,怎样找到相关段落,怎样让回答附上依据,以及长期保存的信息如何更新和删除。可以把 Agent 想成正在做开卷题的同事:先替他找对书、翻到相关页,再请他回答。
先认识 RAG 的完整过程
RAG 是 Retrieval-Augmented Generation,通常译作“检索增强生成”。检索从资料库找内容,生成根据取到的内容组织回答。例如先查到退款到账规则,再将规则和问题一起发送给模型。
查询时先把检索范围限制在当前用户可读的资料中,多路结果合并后再复核权限和版本,最后才交给模型。像在公司资料室借书,先确认能进哪个资料区,再核对借出的具体文件。
| 环节 | 做什么 | 退款规则例子 |
|---|---|---|
| 摄取 | 将外部文档读进系统 | 读取退款规则文件 |
| 分块 | 将长文分成可检索片段 | 分开到账时间和退货条件 |
| 索引 | 建立便于查找的数据结构 | 为词语、向量和资料编号建立查找入口 |
| 检索 | 从库里找候选片段 | 找到退款到账时间段落 |
| 重排 | 更仔细比较候选与问题 | 把到账说明排在配送说明之前 |
| 上下文组装 | 在长度预算内选取资料 | 附上适用版本和规则原文 |
| 引用 | 标出具体说法依据哪里 | 回答3至5个工作日,附对应片段 |
“索引”像书后的词条目录;“候选”是先找出来、还要挑选的资料。模型最终读到的是组装后的上下文,并不会自动看见资料库里的每篇文档。检索漏掉重要规则时,需要先改检索或资料组织。
沿三条路线读完十七篇
先给模型整理资料
前三篇从一次请求出发:放什么、怎么排、长度怎么控制。随后四篇把资料整理成可查询的库。
| 文章 | 演示中的变化 | 学到的机制 |
|---|---|---|
| 上下文选择、排序与预算 | 不同预算放入不同资料 | 相关性、优先级与长度限制 |
| 压缩、摘要失真与缓存 | 摘要保留或丢失条件,版本变化后缓存更新 | 信息压缩与结果复用 |
| 上下文隔离、污染与可信来源 | 业务规则和检索内容进入不同位置 | 来源、权限与数据隔离 |
| 采集、清洗与文档解析 | 杂乱原文变成带来源的文本 | 保留可追溯的原始资料 |
| 分块、元数据与权限继承 | 切片带原文位置、文档身份和访问范围 | 切片追溯和过滤 |
| 索引、增量更新与删除 | 修改或删除文档后,查找结果随之变化 | 保持资料与索引同步 |
| 稀疏、稠密与混合检索 | 关键词与向量产生不同候选,组合后补全 | 比较两种查找信号 |
再找准、引用和检查答案
找出资料后,还需要处理问法变化、排序、缺资料和相互矛盾的规则。
| 文章 | 演示中的变化 | 学到的机制 |
|---|---|---|
| 查询改写与多查询检索 | 不同问法查到的结果合并 | 保留问题意图、增加查找入口 |
| 重排、过滤与上下文压缩 | 大候选集筛成少量相关片段 | 先找全,再选准 |
| 引用、拒答与冲突知识 | 有依据时附引用,缺依据或冲突时给出待核实内容 | 核对具体说法与原文 |
| 父子块、RAPTOR 与 GraphRAG | 小块定位后补上下文,层级和关系支持不同问题 | 选择资料组织方式 |
| 结构化数据与 SQL 检索 | 数据库筛选和汇总订单 | 从表中取得确定数值 |
| Agentic RAG 与动态检索 | 根据已有结果继续查找,在上限内结束 | 多步查资料的控制流程 |
最后让信息能保存,也能纠正
文档库通常存资料原文,记忆保存任务或用户相关的信息,例如用户偏好回答简短,或上次任务已到哪一步。来源和更新方式各有用途。
| 文章 | 演示中的变化 | 学到的机制 |
|---|---|---|
| 工作、情景、语义与程序性记忆 | 一次经历拆成当前任务、过往事件、事实和操作方法 | 分清记忆用途 |
| 记忆写入、召回与更新 | 新信息按用户保存和召回,纠正旧值 | 身份、来源和版本 |
| TTL、纠错、遗忘与隐私 | 到期、纠正或删除后,旧内容退出可用集合 | 信息生命周期 |
| Recall、MRR、NDCG 与忠实性 | 根据给定标准答案计算检索与引用指标 | 定位失败所在环节 |
每篇都安排了固定数据。先保存完整代码、运行命令,再对照输出看解释;公式、关键数据和结果直接展示。正常路径跑完之后,可以展开文末习题。
定位一条回答为什么不对
用户问“退款多久到账”,回答却变成“配送需要两天”。按资料经过的顺序查看:原文有退款规则吗?分块后保留了完整条件吗?检索有没有找到它?重排后是否进入上下文?回答是否由规则支持?每一问对应一个明确环节。
| 现象 | 先检查的位置 | 常用处理 |
|---|---|---|
| 资料库没有所需规则 | 摄取与版本 | 补入原文并更新索引 |
| 原文存在却找不到 | 分块、索引、查询 | 看段落是否拆散、关键词是否匹配 |
| 找到了但没交给模型 | 排序和上下文预算 | 保留相关片段与必要条件 |
| 附了出处但说法不符 | 引用支持关系 | 对照原文逐句检查 |
| 删除的信息又出现 | 缓存、摘要、记忆 | 清理关联副本并验证召回 |
资料增加时,先建立可观察的基线,再根据失败样例选择复杂检索方式。LlamaIndex 的 RAG 入门按加载、索引、存储、查询和评测组织了完整流程,可作为深入阅读入口。
课后练习展开习题收起习题
- 用退款问题解释摄取、分块、检索和上下文组装各做什么。
- 回答错了时,怎样区分没找到证据与没有正确使用证据?
- 删除一条记忆时,还需要检查哪些关联位置?
从上下文选择、排序与预算开始。需要回顾任务执行时看L4 总览。接下来的L6将执行与资料能力连接到多个 Agent 的协作中。
描述会发送给本站维护者,用于修订文章,保存90天。请只填写文章问题,省略个人信息、密钥和内部资料。