记忆写入与遗忘:纠正怎样真正生效
把候选提取、证据验证、冲突修订、TTL 和删除组成可审计的记忆生命周期。
用户先说喜欢英文,后来明确改为中文。如果系统只追加新记忆,向量检索仍可能召回旧记录,最终回答就会来回变化。可靠记忆写入不是把一段摘要存入数据库,而是维护事实来源、修订关系、适用范围和删除状态。
从原始对话到可采纳事实
提取器先产生候选,例如主体 u1、字段 language、值 中文、来源 message-42。验证阶段判断这是不是用户自己的偏好、是否为假设或引用、是否明确允许长期保存,以及是否涉及不应保留的敏感数据。“我同事喜欢英文”不能写成当前用户偏好,“假如我喜欢英文”也不是事实。模型提取结果应视为候选,而不是直接信任的数据库更新命令。
合并时先定义事实键,例如租户/用户/偏好类型;同一字段的明确纠正可形成新 revision,并把旧版本标为 superseded。不同适用范围不一定冲突:“工作用英文,学习用中文”应保留条件,而不是用最后一条覆盖全部。对于不能自动判断的矛盾,保持冲突状态或请求确认,避免人为制造确定性。
纠正必须传播到读取路径
写新版本和停用旧版本要有一致性保障。数据库更新完成后,还需使向量索引、缓存、会话摘要及派生记忆失效;否则旧信息仍通过旁路进入上下文。召回时检查 active、revision、valid_until,必要时从权威记录再验证。事件日志记录“为什么改”,服务中的当前视图记录“现在用什么”,两者用途不同。
TTL 表示到期后不再用于普通召回,但不自动等同于物理删除。短期旅行安排适合较短有效期,稳定偏好也应允许用户纠正。时间可从明确有效期或业务规则得到,不能由模型随意猜出永久有效。纠正与删除请求的优先级通常高于从旧对话再次提取的候选,否则后台任务可能把删掉的内容重新写回来。
删除、隐私与审计的真实范围
删除要列清主表、向量索引、缓存、摘要、导出和备份各自的处理方式。可以先用 tombstone 阻止读取与重建,再按策略物理清理;审计记录应保留最小必要元数据,避免又复制一份敏感原文。无法立即删除的备份要有明确保留与恢复过滤规则。不要把“聊天窗口看不到”说成“所有系统已擦除”。
长期记忆遵循最小化:只存对后续任务确有价值且有适当依据的信息,设置用户查看、纠正和删除入口。密码、密钥等凭据不应靠普通记忆机制保存。数据用于跨用户共享经验前还要脱敏与授权,不能把一个人的经历直接变成另一人的上下文。官方记忆概念可帮助理解读写位置,具体隐私策略仍需由产品和数据治理定义。
运行:纠正、过期和当前存储删除
保存为 memory_lifecycle.py,执行 python memory_lifecycle.py。逻辑时钟单位为任意教学单位;存储仅在当前进程内,不涉及真实用户数据、索引或备份。
"""用逻辑时钟展示修订、TTL 和删除;内存存储不是持久数据库。"""
class Store:
def __init__(self):
self.rows = []
def write(self, key, value, now, ttl):
for row in self.rows:
if row['key'] == key and row['active']:
row['active'] = False
self.rows.append({'key': key, 'value': value, 'expires': now + ttl, 'active': True})
def recall(self, key, now):
return [r['value'] for r in self.rows if r['key'] == key and r['active'] and r['expires'] > now]
def delete(self, key):
# 这个小例子物理移除当前进程中的记录;不声称处理了备份。
self.rows = [r for r in self.rows if r['key'] != key]
if __name__ == '__main__':
store = Store()
store.write('u1/language', 'English', 0, 10)
store.write('u1/language', '中文', 2, 10)
print('corrected:', store.recall('u1/language', 3))
print('expired:', store.recall('u1/language', 12))
store.delete('u1/language')
print('remaining rows:', len(store.rows))实际运行输出:
corrected: ['中文']
expired: []
remaining rows: 0时刻3只召回中文;时刻12到达过期边界,条件 expires 大于 now 不再成立;delete 后当前列表为空。历史停用记录在删除前仍存在,这是为了展示有效性过滤和物理移除的差别。程序没有数据库事务,生产实现还需处理两个并发纠正的版本冲突。
逐项情境追问与故障定位
以下为机制分析与手算情境。可先遮住回答独立判断,再核对输入、失败位置和选择条件;它们不代表真实模型、远端服务或设备实验记录。
提取:“我同事喜欢英文”被写成用户偏好,哪里加门禁?
提取器应输出主体、字段、值、来源及候选状态,不能直接写权威记忆。自动提取省操作但易混淆引用/假设。用同事、假如、否定、本人明确声明四种句子对照,先修主体和语气解析再讨论召回质量。
验证:提取到用户护照号码是否就长期保存?
结构正确不等于适合长期保存,验证还看必要性、敏感性、来源与适当依据。最小化降低风险但可能需下次重新询问。检查保存策略和范围,拒绝无必要敏感候选,不能由模型“以后可能有用”自授永久保存。
冲突:用户先说英文后说中文,直接追加为什么会反复切换?
同事实键应形成修订关系并停用旧值,否则相似度可召回两条。最后写入适用于明确纠正,但不同场景偏好不一定冲突。检查tenant/user/字段/适用条件键与revision,无法判断则保留冲突,不能硬取最新掩盖语义差异。
合并:“工作英文、学习中文”合并成“中文”丢了什么?
丢失条件范围,两条事实可并存;合并应按主体、字段和场景去重,而非只比较值。精细条件提高正确性也增加查询复杂度。用工作/学习两种任务测试召回,并保留各自来源,不把压缩摘要变成无条件全局偏好。
召回:主表已中文,回答仍英文,下一步查哪里?
召回链可能经过旧向量、缓存、会话摘要,需检查active/revision/valid_until并回源核权威值。缓存提升速度但需失效策略。沿结果ID追到存储版本,逐层检查纠正事件是否传播,而不是重复把新偏好再写一遍。
TTL:expires=12、now=12时还召回,边界如何定义?
若契约是expires大于now才有效,则12应过期,测试11/12/13三点。TTL限制普通使用不等于物理删除;短TTL减少陈旧但可能重复收集。先核时间单位、比较符和时区,不能把不显示当已经擦除。
纠错:用户纠正后后台从旧对话又恢复旧值,怎么办?
纠正应提升revision并让旧提取任务检测版本/tombstone,写新与停用旧需一致性。异步提取便宜但有陈旧写入风险。重放“旧任务读取→用户纠正→旧任务提交”顺序,旧提交必须拒绝或重新验证,不能只依赖最终时间戳排序。
删除:聊天页面删记录后向量搜索仍找得到,算删除成功吗?
删除范围包括主表、索引、缓存、摘要、导出和备份策略;先tombstone阻止读取与重建,再按策略清理。即时逻辑删除快但非所有副本物理擦除。逐存储查询并测试恢复过滤,报告每层状态,不能把单列表清空当全系统删除。
隐私:把用户经历汇总到组织经验库,怎样防跨用户泄露?
先确认共享依据并最小化/脱敏,凭据不进入普通记忆。共享提升复用却改变可见范围,原本个人可存不代表组织可读。用不同主体检索测试和样本内容审查,审计仅留必要元数据,避免日志复制敏感原文。
课后练习展开习题收起习题
先独立作答,再展开参考思路。检查自己的解释是否包含机制、条件和反例。
用户纠正偏好后怎样避免旧记忆继续影响回答?
参考思路与常见误区
建立同事实键的修订关系,停用旧版并更新当前视图,同时失效向量索引、缓存和摘要。读取时检查有效版本,后台提取也不能重新激活旧内容。
常见误区:只追加新句子,依赖相似度自动选对。
提取到我同事喜欢英文,能写入用户偏好吗?
参考思路与常见误区
不能,必须验证主体、语气、引用关系和保存依据。提取输出只是候选,不能把第三方事实或假设直接当成用户自己的长期事实。
常见误区:只识别喜欢与语言关键词。
TTL 到期等同物理删除吗?
参考思路与常见误区
不等同,TTL 通常控制有效召回或到期策略,底层记录和备份可能仍存在。要分别定义停用、物理清理、派生索引和备份处理。
常见误区:查不到就宣称所有数据已经擦除。
工作英文、学习中文是冲突吗?
参考思路与常见误区
未必,它们有不同适用条件。应保留范围而非简单最后写入覆盖;真正同范围矛盾才按来源、明确纠正或人工确认解决。
常见误区:所有同字段值不同都用时间最新者覆盖。
为什么删除需要防止后台重新提取?
参考思路与常见误区
旧对话或备份可能仍被索引任务读取,导致已删信息复活。删除标记、数据生命周期与恢复过滤要共同阻止重建,并最小化审计中的敏感内容。
常见误区:只删主表一行就结束整个删除流程。