上下文压缩:保留决定结论的条件
上下文压缩:保留决定结论的条件,含可执行机制示例、边界与面试追问。
“未签收且金额不超过200元时可申请审核”压成“签收后20元可退款”,长度确实减少了,但否定、条件、金额和动作都被改写。压缩质量应围绕后续任务需要的事实核对,不能仅用压缩率衡量。
压缩发生在哪一层
抽取式压缩保留原文片段,减少改写风险,但切断前后文也会丢掉范围或指代。生成式摘要可整合多段内容,却可能补写不存在的因果。结构化摘要把金额、单位、条件、时间、来源等拆成字段,便于校验,但字段之外仍可能遗漏关键语义。选择方式取决于下一步任务,而非哪种输出最短。
不可丢的信息通常包括主体、动作、否定、数量与单位、时间范围、例外、来源和版本。金额200与200美元不同,“可申请”与“已批准”不同。压缩工具调用轨迹时还要保留失败状态和待确认动作;把尝试发送写成已经发送会导致错误重试或虚报成功。
污染如何被长期保存
来自网页或工具返回的恶意指令,如果被摘要成“系统要求”,就从低可信数据变成看似高可信记忆。摘要必须保留来源类别,不把数据提升为授权。模型自己的未验证推测也不能写成用户偏好或事实;持久化前应区分观察、推断与确认。
冲突知识不能靠最后出现者覆盖。先核对适用对象、时间和权威来源,必要时保留两项并请求确认。过期内容应失效,引用原文应能恢复。多轮摘要会累积误差,重要任务可从原始事件与当前有效证据重新构建,而不是无限摘要上一次摘要。
缓存命中不代表语义仍有效
摘要缓存键应涵盖原文内容或版本、摘要模板、模型、任务范围与权限范围等必要因素。原政策更新或用户权限撤销后,即使摘要文本没变也可能不能再使用。缓存失效要与源数据变更关联;对敏感任务,生成答案前重新检查当前权限。供应商前缀缓存与业务摘要缓存是不同层,不能用前者代替版本治理。
跟做:逐字段检查金额、否定与条件
保存为compression_check.py,运行python -X utf8 compression_check.py。程序用固定结构化原文检查摘要,缺失字段同样算差异。它没有语言模型,也不能验证任意自然语言语义。
"""确定性审计摘要中的关键结构字段;不声称验证所有语义。"""
SOURCE={'amount':200,'currency':'CNY','negated':True,'condition':'未签收','version':3}
GOOD=dict(SOURCE)
BAD={'amount':20,'currency':'CNY','negated':False,'condition':'已签收','version':3}
def changed_fields(summary):
return [key for key,value in SOURCE.items() if summary.get(key)!=value]
if __name__=='__main__':
for label,summary in [('保真摘要',GOOD),('错误摘要',BAD)]:
errors=changed_fields(summary)
print(label,'差异字段',errors,'允许替代原证据',not errors)
print('恢复依据','source_id=policy-17; version=3; span=paragraph-4')实际运行输出:
保真摘要 差异字段 [] 允许替代原证据 True
错误摘要 差异字段 ['amount', 'negated', 'condition'] 允许替代原证据 False
恢复依据 source_id=policy-17; version=3; span=paragraph-4错误摘要被找到amount、negated和condition三个差异。输出中的“允许替代原证据”仅表示这五个字段相等的演示门槛;真实审批还要验证动作、适用范围、原文真实性和权限,不能直接据此允许付款。将GOOD中的currency改成USD重跑,也会被拒绝。
怎样评价压缩是否值得
使用相同问题分别提供原文和摘要,对比可验证答案、引用支持、关键条件遗漏以及token成本。应覆盖否定、日期、货币、例外、冲突和跨段指代;既检查保留事实,也检查摘要新增的事实。若后续任务变化,原本合格的摘要可能不再足够。
压缩失败后先回源补充局部片段,再考虑完整重建。恢复时使用source_id、版本和段落定位核对原文;如果来源已删除或不可访问,应报告证据不足。重新生成一份听起来合理的摘要不能替代恢复证据。
综合追问:摘要更短但将“可申请”写成“已批准”,如何恢复可信状态?
这是给定条件下的机制推演;数值用于解释判断,不是新增线上或模型实测。先独立回答,再核对下面的推理。
展开推理、取舍与排错路径
抽取式保留原句仍可能丢跨段例外,生成式更紧凑但可能改否定与因果,结构化字段易校验却未必覆盖全部语义。优先保留主体、动作、金额单位、时间、否定、条件及来源;200元、200美元和20元不能因相似字符而合并。若摘要把外部文档指令改成系统要求,必须恢复其低可信来源,工具授权不跟随摘要升级。
遇到新旧政策冲突先核对象、版本和权威记录,不按最后写入覆盖。摘要缓存键应包含源内容/版本、任务、模板模型与权限等有效条件;撤权后旧缓存也不能继续读。定位失真先比较原文/摘要上的同一问题与字段,回源补局部证据,累积错误时从原始事件重建;来源丢失就明确不足。面试需同时检查遗漏和新增事实,并比较任务质量与token成本,不只报压缩率。
课后练习展开习题收起习题
先独立作答,再展开参考思路。检查自己的解释是否包含机制、条件和反例。
压缩率高能说明质量好吗?
参考思路与常见误区
不能,需要验证后续任务所需事实、否定、单位、条件和引用是否保留,同时检查新增无依据事实。
常见误区:只比较token数量。
抽取式摘要是否绝不失真?
参考思路与常见误区
原句保留也可能丢掉跨段条件、指代与例外,需验证上下文依赖和任务答案。
常见误区:把不改字等同不改意思。
摘要为何会放大提示注入?
参考思路与常见误区
低可信资料中的指令可能被改写为受信要求;应保留来源类别并在工具层独立授权。
常见误区:把摘要自动视为系统事实。
摘要缓存何时失效?
参考思路与常见误区
源版本、模板、任务范围、模型或权限等相关条件变化时应重新判定;权限撤销不能靠旧缓存绕过。
常见误区:只按用户问题文本缓存。
连续摘要出现错误如何恢复?
参考思路与常见误区
从原始事件和可定位的有效来源重建,重新验证关键字段;来源缺失时说明不足。
常见误区:继续摘要错误摘要直到更短。
进一步阅读:原始资料1。程序使用固定数据说明机制,未把资料中的实验结论当成本地模型测试。