大模型记忆正在成为 Agent 的状态层

区分长上下文、检索与长期记忆,梳理语义、情节和程序记忆的生命周期、主流实现路线、污染风险与企业落地方法。

核心判断:记忆不是“多保存一点聊天记录”,而是 Agent 的状态层。它必须管理信息的写入、表示、检索、更新、遗忘、权限与审计,才能把一次性工具变成长期协作者。


01. 开场

你有没有发现一个很奇怪的现象:我们现在都说 AI Agent 能写代码、能查资料、能操作浏览器、能调用工具,听起来已经很像一个员工了。可你真正用起来会发现,它有一个致命的问题——它经常像一个每天都会失忆的员工。


02. 每天失忆的员工

你昨天告诉它的项目背景,今天还要再说一遍;它上次踩过的坑,下次可能又踩一遍;你已经否掉的方案,过几天它又重新提出来;你花好几轮把它调教到一个合适的风格,一开新会话,又回到默认的出厂设置。所以这两年,大模型应用里有一个方向开始变得很重要:记忆。


03. 核心判断:记忆是状态层

但今天我们不要把它讲成“AI 终于能记住我叫什么名字”这种小功能,这个理解太浅了。真正重要的是:记忆,正在成为 Agent 的状态层。没有记忆,Agent 只是一个一次性工具;有了记忆,它才可能变成一个长期协作者。


04. 记忆 ≠ 长上下文 ≠ 检索增强

先把几个最容易混的概念拆开。第一件事:长上下文不是记忆,检索增强也不是记忆。


05. 长上下文不是记忆

长上下文解决的是“一次能看多少内容”。从几万到上百万 token,看起来像是记得更多,但它本质上还是一张一次性的临时桌面。桌面变大当然有用,可桌面再大,也不等于你有一套档案系统:没有归档、没有版本、没有权限、没有删除、没有“什么值得保留”的判断,长上下文最后只会变成更大的混乱。一句话——长上下文是更大的桌面,记忆是会整理的档案系统。


06. 检索增强不是记忆

检索增强,也就是大家常说的 RAG,更像一间资料室:一堆文档、规范、网页、问答,模型不知道就去检索,它解决的是“知识接入”。但记忆处理的是动态经验:你是谁、这个项目做到哪一步、上次为什么这样决策、这个客户有哪些特殊约束、某个工具上次怎么调用成功、某个故障之前是怎么排查出来的。所以我更愿意这样区分——检索找资料,记忆保状态;检索问的是资料在哪里,记忆问的是过去发生了什么、什么该留下、未来什么时候要用。


07. 大模型到底有哪些记忆

那大模型相关的记忆,到底有哪些层?我们可以分成四层来看。


08. 四层记忆

第一层,参数记忆:模型训练时写进权重里的知识,更新慢、不能精确删除,也不能为某个用户动态改变。第二层,短期上下文:当前的对话、工具返回、代码改动、任务计划,很重要,但一换窗口就没了。第三层,外部显式记忆:数据库、向量库、图谱、文件、画像档案、记忆文件——它们在模型外面,可以随时写入、检索、更新、删除,这是现在讨论的重点。第四层,程序记忆:不只是“我知道什么”,而是“我以后该怎么做”。


09. 三类长期记忆

所以长期记忆至少有三类。语义记忆,是事实和关系;情节记忆,是过去发生过什么;程序记忆,是以后该怎么做事。很多人做记忆系统,只做了用户画像,停在语义记忆。但真正能让 Agent 越用越强的,是情节记忆和程序记忆——把踩过的坑、成功的做法,沉淀成提示词、技能和流程。


10. 专业记忆系统怎么工作

那一个真正专业的记忆系统,是怎么工作的?它绝不是简单的“存进去、再搜出来”。


11. 八环节生命周期

它至少有八个环节。写入这一侧:先捕获,信息来自用户、工具、文件、网页,还是模型自己推断,可信度完全不一样;再判断,这句话值不值得长期记;然后写入,可以边对话边写,也可以后台异步整理;接着是表示,你到底把它写成摘要、画像、事实三元组、事件日志、时间图谱,还是一份文件。读出这一侧:检索、注入、更新、遗忘。中间这条主线,就是记忆的生命周期。


12. 三个真正的难点

这里面有三个最难的点。第一,表示:写成什么形态,决定了它以后能不能更新、能不能追溯、能不能解释。第二,检索:不能只靠向量相似度,有的问题靠关键词,有的靠实体——某个客户、某台设备,有的靠时间——上次什么时候改的。第三,更新与遗忘:用户以前用 Vue、后来换成 React,你不能简单删掉旧信息,但也不能让它在新任务里继续误导模型。所以记忆一定要带上时间、版本、有效期、来源和状态。专业记忆系统比拼的,从来不是能不能存,而是生命周期管理。


13. 实证:腾讯 Agent Memory 的分层

说了这么多原则,我们来看一个真在跑的开源系统——腾讯的 Agent Memory。它最值得看的地方,正是反对“把一切都倒进一个向量库”。它把长期记忆做成四层:最底下 L0,是原始对话;往上 L1,是原子事实;再往上 L2,是场景;最上面 L3,是长期画像和偏好。这个结构很像人处理信息的方式:我们不会每次翻遍所有聊天记录,而是先记住大概的场景,需要细节时再回去查原始证据。


14. 腾讯做法:压缩不等于丢证据

长任务还有一个麻烦:工具日志太多。代码 Agent 要跑测试、看报错、读文件,运维 Agent 要查日志、看趋势,全塞进上下文很快就爆了。腾讯的做法是:把又重又长的工具日志卸载到外部文件,把任务状态压缩成一张画布,再用节点编号回溯到原文。背后是一个很关键的原则——压缩不等于丢证据:上层保留结构,下层保留证据,需要的时候可以一层层下钻。


15. 主流方案有什么区别

回到更大的图景:现在主流的记忆方案,到底有什么区别?


16. 三种基础做法

先看三种最基础的做法。第一种,会话摘要:把长对话不断总结,便宜又好做,但信息会丢,而且一旦总结错了,错误就会变成未来的上下文。第二种,把聊天记录放进向量库:保留了更多原文,但缺少状态更新、时间关系和冲突处理——相似度高,不代表这条记忆现在还有效。第三种,画像档案:给每个用户、每个项目维护一份结构化档案,适合稳定信息,但越大越难维护,旧事实被覆盖以后也不好复盘。


17. 四条主流路线

再往上,是四条更成熟的路线,它们其实押注了不同的答案。Mem0 押注:记忆需要一个好用的后端,抽取、去重、检索、评估都要产品化;它把记忆分成对话、会话、用户、组织几层,新事实只追加、不急着覆盖,检索时融合向量、关键词和实体。Zep 押注:长期记忆的关键是时间和关系,所以走时间知识图谱。Letta 押注:Agent 应该像一个长期员工一样有状态,记忆要可读、可编辑、可版本化。LangMem 押注:记忆不是一个单品,而是 Agent 编排里可以组合的能力。


18. 深入两条最不一样的路

其中最不一样的是两条。一条是 Zep 的时间图谱:它把对话和业务数据,变成一张带时间的实体关系网,事实可以失效、但历史会保留——你要问“这个客户上次为什么改方案”“这台设备三个月反复出什么问题”,光靠向量检索就不够了。另一条是 Letta 的记忆文件系统:它把记忆做成一套带版本管理的文件树,记忆就是文件,有目录、有提交历史,系统目录里的内容每次都进系统提示词,其它的按需读取——这对代码 Agent 特别自然。


19. 记忆越强,风险越大

但这里必须泼一点冷水:记忆不是只有好处。它会把一次性的错误,变成长期的状态。


20. 记忆污染三场景

举几个真实的风险。模型误解了你的偏好,把“这次临时这样”记成“以后永远这样”;网页里的恶意提示,诱导 Agent 写入一条伪造的记忆;一个项目的敏感信息,被错误地放进了组织共享记忆。这已经有专门的研究在讨论,叫记忆污染。它比普通的提示注入更麻烦——普通注入往往只影响当前这一次,而被污染的记忆,会潜伏到未来的会话里。


21. 治理清单

所以一个成熟的记忆系统,必须有治理能力:要标记来源可信度,要有时间和有效期,要能识别敏感信息,要让用户可见、可删、可纠正,要做企业权限隔离,还要有写入审计、冲突检测,必要的时候能回滚。一句话——没有治理的记忆,不是智能增强,而是长期风险。


22. 未来方向

那往前看,大模型记忆会走向哪里?我觉得有几个比较清楚的趋势。


23. 六个趋势

第一,从被动检索,走向主动管理:Agent 自己判断什么值得记、什么该合并、什么该降权。第二,从向量块,走向事件、实体和时间,因为真实任务是状态变化问题,不是文档相似度问题。第三,从用户偏好,走向工作记忆和组织记忆:真正值钱的不是你喜欢什么颜色,而是一个项目怎么推进、一个团队踩过哪些坑。第四,记忆和技能融合:把“上次失败了”,复盘成“下次先检查这个条件”。第五,记忆变成平台层,给不同 Agent 共享。第六,安全评估成为核心能力。


24. 企业到底怎么落地

说回最实际的问题:如果你是企业团队,这东西到底该怎么落地?


25. 企业三落点闭环

我的建议是:别一上来就做“万能 AI 记忆”,先抓三个落点,让它们转成一个闭环。第一步,每个项目一份结构化画像:背景、客户约束、系统边界、关键配置。第二步,每次诊断生成一条带证据的事件记忆:故障、处理动作、结果。第三步,把重复出现的问题,复盘成一个技能或者一段流程。下次再遇到同类故障,先调出上次的步骤。在暖通、工业运维这种场景里,最值钱的从来不是聊天偏好,而是设备拓扑、调过的阈值、上次报警是怎么解决的。这样你做的就不是一个抽象系统,而是企业的经验资产。


26. 收束

所以回到开头:为什么这两年记忆突然重要?因为大模型正在从聊天框走向 Agent,从一次性问答走向长期协作,中间缺的那一层,就是记忆。但记忆不是越多越好。真正专业的系统,是在正确的时间、召回正确的证据,并且知道什么该忘、什么该更新、什么需要你确认、什么绝对不能跨权限使用。未来的 Agent,拼的不只是模型多强、工具多少,很大一部分会拼:它有没有一个可靠的状态层,有没有可复用的经验,有没有可治理的记忆。


27. 延伸判断


参考资料与延伸阅读

产品架构与 benchmark 数据可能随版本更新;厂商披露的性能结果不视为第三方独立验证。资料核验日期:2026-08-23。