智能体有状态架构的演进与记忆分类学大语言模型LLM的静态参数化本质限制了其在长程规划、工具集成及跨多步骤工作流的复杂场景中的自主执行能力。传统的交互模式本质上是无状态的意味着每次 API 调用都被视为独立的事件缺乏对过去交互的连续记忆。尽管近年来模型的原生上下文窗口不断扩展但直接向其输入未经结构化处理的完整对话历史不仅会带来高昂的计算成本与延迟还极易在复杂的长上下文检索中因“注意力机制饱和”而导致性能劣化导致智能体出现指令遗忘或事实偏离。因此构建高效的外置记忆系统成为将大语言模型转化为具备持续学习、自我演进和个性化交互能力的“有状态智能体Stateful Agents”的关键技术路径。在智能体认知体系中记忆不仅仅是数据的简单堆积而是一套分层的、动态的数据管理系统。探讨智能体记忆的底层表征首先可以将其划分为三种核心范式自然语言令牌Natural Language Tokens、中间潜在表征Intermediate Latent Representations以及静态参数Parameters。自然语言令牌是最直观的表达方式通过将历史记录转化为明文字符直接追加至上下文窗口虽然直观且易于模型直接读取但会占用大量极其宝贵的物理上下文空间并在超长文本下引发严重的计算延迟。中间潜在表征则侧重于在激活状态进行干预其典型实现包括对 Key-ValueKV缓存进行 selective dropping、淘汰或语义压缩以及构建高效的外部向量空间。静态参数范式则通过动态微调或权重更新将特定的规律、知识和指令集固化在模型参数中但其更新机制极为笨重且缺乏确定性。下表对智能体记忆的这三种底层范式进行了多维度的工程与性能对比旨在展示各范式在实际系统设计中的技术取舍记忆底层范式存储物理介质检索与操作粒度状态更新复杂度空间占用与 Token 开销适用交互场景自然语言令牌 (Natural Language Tokens)外部持久化数据库与物理上下文窗口字符、词元Tokens级别极低直接拼接与写入数据库极高随交互深度呈二次方开销增长短期多轮对话、强连贯即时推理中间潜在表征 (Intermediate Latent)KV 缓存、高维向量空间与图谱索引向量维度、句子级、实体关系网中等需进行特征抽取、嵌入计算及图谱同步中等通过动态合并、压缩和优先级截断控制跨会话长期检索、多步事实遍历与检索增强静态参数 (Parameters)神经网络权重参数矩阵权重值及神经激活路径极高需触发微调训练或梯度更新零物理上下文占用已内化于参数空间底层行为对齐、通用规则固化、风格语调控制长期记忆分类学用户画像记忆与聊天摘要记忆的深度解构在实际部署的认知架构中短期记忆通常作为 FIFO 队列维护在当前的会话运行时中。而长期记忆Long-Term Memory则是跨越会话、设备和工作流维系智能体生命周期一致性的核心底座。在微软 Foundry Agent Service 等前沿智能体托管框架中长期记忆被清晰地解构为两种并行的存储与检索路径用户画像记忆User Profile Memory与聊天摘要记忆Chat Summary Memory。用户画像记忆负责管理稳定的个人事实和长期偏好例如用户的姓名、特定的技术栈习惯或身体过敏史。这类数据结构严密通常被存储为符合特定 Schema 的 Profile 单文档并随着交互的深入执行就地更新与修正。其设计初衷是便于智能体在会话初期快速加载直接建立全局的个性化基调。相比之下聊天摘要记忆Chat Summary Memory则是对过往对话主题和讨论线索的动态提炼。聊天摘要记忆并不保存琐碎的原文字符而是连续不断地将发生过的历史会话聚类并压缩为高层次的主题纲要。在每轮交互Turn中系统会根据用户当前的输入动态检索关联的历史摘要以此作为长尾连贯性的恢复介质。这种机制不仅避免了将过去数十万字的原始会话完整推入上下文还确保了智能体能够随时回忆起“上个月讨论过的技术方案”等抽象主题在控制 token 预算的同时实现了极高的时间跨度覆盖。为了在工程上保证多租户和多智能体协同下的数据安全这些长期记忆被严格隔离在不同的作用域Scopes中。用户 IDUser ID作为跨会话的唯一稳定标识符用于归属和检索个人的画像与历史摘要18会话 IDSession ID则将单次对话限定在独立的线程沙盒内18而资源 IDResource ID则允许系统在多个用户或多个工具之间安全地共享全局背景知识。这种分层治理彻底解决了传统单会话内存包装器的局限性。下表详细对比了经典 LangChain 内存包装器与托管型长期记忆系统的底层机制和应用成效内存系统与包装器存续与持久化边界核心更新与提炼机制Token 开销增长特性时序与语义偏差控制ConversationBufferMemory单会话运行时进程关闭即消失无任何处理直接保存全量原始对话文本随对话长度呈线性暴增极易击穿上下文极限无任何控制容易引入历史文本中的噪音ConversationSummaryMemory单会话运行中调用 LLM 实时总结每轮交互后调用 LLM将新对话与旧摘要合并重写趋于平缓稳定在摘要文本的 Token 消耗区间随着重写次数增加微小事实易在抽象中产生语义漂移ConversationSummaryBufferMemory单会话混合型缓冲区保留最近的原始消息流将超出的历史交由 LLM 转换为摘要阶梯式稳定增长兼顾即时细节与历史纲要在临界切分点易由于截断机制导致信息断档16ConversationBufferWindowMemory单会话滑动窗口机制仅保留最近的 ![][image1] 轮对话超出窗口的历史直接物理丢弃严格恒定取决于窗口大小k kk彻底丧失窗口之外的所有历史与长程事实ConversationTokenBufferMemory单会话令牌数控制缓冲区类似于窗口机制但基于总 Token 数量执行溢出清理严格控制在指定的 Token 阈值以下依然无法挽回被清理掉的历史语境托管型长期记忆 (Foundry Memory / LangMem)跨会话与底层持久化数据库深度集成结合 Hot-path 实时写入与后台 reflection/dreaming 异步沉淀极低仅精确检索并拼装高相关度的摘要或画像利用 validity window 或 multi-signal ranking 精准纠偏主流记忆管理系统的技术分化与演进路径随着智能体复杂度的提升行业内的长期记忆系统在具体架构和设计哲学上产生了明显的技术分化演进出几条独具特色的实现路径。虚拟内存与主动自我修改LettaMemGPTLetta 继承了 MemGPT 的核心思想将受限的物理上下文窗口类比为物理内存Main Context / RAM而将海量的外部向量与关系数据库类比为外部磁盘External Context / Disk。其主上下文精细划分为只读的系统指令区、存放用户与角色画像的活动 Core 记忆区以及维系实时消息流的 FIFO 队列。Letta 的核心技术贡献在于赋予了智能体主动操控自身内存的特权通过向 LLM 暴露 core_memory_replace 和 core_memory_append 等工具当接收到新信息例如用户更改了姓名时智能体能够通过内部单调Inner Monologue主动调用工具来纠正其 Core 内存中的陈旧事实。此外其引入的心跳Heartbeats机制允许智能体在工具调用后无需等待用户交互便主动触发下一次推理从而能够自主拆解复杂的多步长程任务并将每一步执行状态持久化到基于 Git 的 MemFS 文件系统中实现了高度的版本控制与事务恢复性。时间拓扑图谱ZepGraphiti传统的向量记忆由于忽略了时间的流动常常无法处理随着时间推移而发生的事实变化与冲突。Zep 及其开源核心引擎 Graphiti 通过构建 Temporally-Aware 动态知识图谱彻底解决了这一难题。Graphiti 自动将非结构化的交互数据Episodes分解为实体节点Nodes以及它们之间的关系边Edges。Graphiti 的关键创新在于为每条关系边赋予了明确的时效 validity window。每条边都内嵌了 valid_from、valid_to 和 invalid_at 等时间戳元数据。当新的 Episode 引入了与过往冲突的事实如用户的办公地点发生了变更时系统并不会物理删除旧的数据而是将旧关系边的 valid_to 置为当前时间同时开启一条带有全新 valid_from 的新边。这使得智能体能够依托 FalkorDB 或 Neo4j 数据库执行高效率的拓扑关系遍历并能够实现“在去年三月份Alice 的汇报对象是谁”等高度复杂的时间回溯和多步关联查询。定量截断与优先合并LlamaIndex MemoryLlamaIndex 的长期记忆系统则通过严密的数值参数提供了精细化的 Token 消耗控制。其通过 chat_history_token_ratio默认 0.7和 token_flush_size默认 3000将物理窗口划分为高频更新的短期 FIFO 区与长期记忆块。当短期会话消息超出设定的 token 占比限制时溢出部分将被自动归档并触发长期存储处理。在长期块中LlamaIndex 设计了三种差异化的专业对象StaticMemoryBlock 保持静态不变量FactExtractionMemoryBlock 调度模型进行增量事实抽取而 VectorMemoryBlock 则将数据持久化在 Qdrant 等外部向量索引中。当进行单轮推理合成时系统会基于各个 Memory Block 预设的 priority 数值进行自适应合并和物理截断并将提炼后的知识通过结构化的 XML 标记注入智能体的系统提示词中实现了可预测的低延迟内存融合。原真性保留与情节聚类MemMachine针对高频调用大模型执行事实抽取所带来的极高延迟、Token 消耗以及潜在的语义信息失真Semantic DriftMemMachine 走出了一条以“原真性保留”为核心的技术路径。MemMachine 的设计原则是尽可能保留客观交互事实将每一次完整的对话 Episodes 以句子级细粒度进行原始存储与索引从而在日常存储阶段省去了 80% 的大模型事实提取成本。在检索阶段MemMachine 引入了创新的情节聚类Episode Clusters机制系统首先检索出与当前意图语义距离最近的核心 Nucleus 句子随后自动将其在原始会话中的相邻上下文进行物理扩展和关联整合。这一技术完美克服了由于口语对话发散而导致的向量表征偏离在 LoCoMo 等超长会话基准测试中展现了卓越的召回率与准确度。智能体原生自治与无数据库化ByteRoverByteRover 的核心主张是消除智能体层Agent Layer与外部记忆服务管道Memory Pipeline之间的硬拆分防止因两者认知不同步而导致的 Lost Coordination Context。ByteRover 采用了“记忆管道反转”的智能体原生设计由处理主推理任务的 LLM 亲自调度 ToolsSDK 直接维护本地的文件系统。ByteRover 的存储底座为 Context Tree上下文树其表现为本地磁盘上高度结构化的 Markdown 文件完全抛弃了 Neo4j、Qdrant 等重量级数据库。为了自维持数据的健康度其引入了自适应生命周期Adaptive Knowledge Lifecycle, AKL机制将提取的事实自动流转于“草稿Draft”、“验证Validated”与“核心Core”三级成熟度状态中辅以重要度评分和时间衰减机制。检索时其搭载的五级渐进式检索策略可在无需大模型干预的情况下实现亚百毫秒级的快速匹配代表了高度自治的无服务化智能体发展方向。有限状态机逻辑隔离SciBORG在面向复杂科学工作流或需要绝对确定性执行轨迹的专业领域中SciBORG 提供了基于 Pseudo-FSA伪有限状态自动机的记忆范式。SciBORG 智能体为了避免因超长工具链调用引起的上下文溢出与逻辑混乱除了配备常规会话记忆和动作摘要记忆Action Summary Memory外其核心维护着一个状态跃迁机。这个 FSA 记忆严格定义了智能体在科学实验、仪器控制等步骤中的合法状态并基于确定性的状态转换图来限制智能体的行动边界。当智能体在多 agent 协作或外部执行失败中发生崩溃时它可以依靠 FSA 记忆中持久化的状态标记精准推导出中断点并无缝恢复执行展示了符号主义逻辑记忆与联结主义大模型结合的巨大工程潜力。长期记忆生命周期的工程机制与底层实践智能体长期记忆的管理并非仅是静态的存储过程而是一个涵盖 Extraction提取、Storage存储、Consolidation合并演进与 Retrieval检索装配四个物理阶段的复杂生命周期。在高性能工业部署中通常会利用高速缓存和高性能向量搜索引擎构建底层索引。以 Valkey Search 为例其典型的哈希索引 Schema 往往结合了高维向量索引与多维元数据标签FT.CREATE{collection_name}ONHASHPREFIX1{prefix}SCHEMAmemoryTEXTembedding VECTOR HNSW6TYPEFLOAT32 DIM {dims} DISTANCE_METRIC COSINE user_id TAG agent_id TAG run_id TAG created_atNUMERICupdated_atNUMERIC在该体系支撑下写入路径通常包含严格的三阶段流水线事实候选抽取当前轮次会话User Message Assistant Response被推入记忆引擎调度轻量级统计模型或 LLM 提取可能包含的事实、决策与新偏好。就地相似度对撞Collision Check引擎使用提取的候选 facts 对 Valkey 执行快速的 FT.SEARCH 近邻匹配精准圈定当前 Scopeuser_id / agent_id内是否存在语义相近或矛盾的陈旧事实。决策写入Commit/Update根据对撞结果系统自主决策是新增ADD、覆盖升级UPDATE、废弃历史DELETE还是不做任何操作NOOP最终通过单次 HSET 快速写入确保索引即时同步 searchable。在长期运行中记忆库的演进策略与人类心理学的整合迁移机制高度契合。这一认知生命周期包含了以下四种转化机制连接关联体验Connecting Related Experiences系统在不改变原纪录的前提下通过语义近似、时空相近或明确的因果关联在情节节点或实体节点之间建立显式连接如 A-MEM 和 MemoryOS 的关联链接以及 Zep 与 Mem0 的实体关系为智能体提供多步逻辑链条。整合碎片记忆Integrating Fragmented Memories系统定期启动合并过滤掉重复会话并将离散的每日活动合并提炼为高层次的抽象画像大幅降低长期存储的复杂度例如 MemoryBank 和 MemoChat 的定期提炼。跨记忆层级转化Transforming Across Memory Levels记忆通过多级迁移机制流转短期 FIFO 队列中被频繁访问和唤醒的数据会被标记为中高频信息并依据频次与 recency 结合的综合评分如 MemoryOS 的热度计算迁移晋升到长期持久化空间中。更新既有记忆Updating Existing Memories包含规则驱动如引入遗忘曲线降低陈旧节点权重、LLM 驱动的聚合合并如 MemTree 定期触发的 Aggregate 压缩操作以及智能体自主驱动的改写保障存储数据的高一致性与真实性。特别值得注意的是当前行业在记忆存储引擎的选型上正在发生一次深刻的技术架构巨变这在知名开源长期记忆框架Mem0 v3的演进中表现得尤为明显。在旧版本如 v2中Mem0 高度依赖外部图数据库如 Neo4j、Memgraph、Kuzu、Apache AGE 等来实现复杂的网状事实关联用户需要显式配置 enable_graph 与 graph_store 属性。然而这种“在写入时强行构建拓扑图谱”的架构在实际高并发生产环境中暴露了严重的性能短板每次对话写入不仅要调用 LLM 执行三元组提取还要在外部图数据库中进行复杂的节点合并、边重构以及事务加锁这带来了极大的网络延迟和高昂的维护开销。为了解决上述问题Mem0 v3 进行了破坏性的架构重构彻底移除了 enable_graph 参数以及所有的 external graph store 驱动删除了近 4000 行图数据库依赖代码。Mem0 v3 转向了“单次直接追加Single-Pass ADD-Only”的提取模型新获取的事实会直接以扁平方式写入主向量/哈希库中不再于写入路径进行高昂的图拓扑构建。在检索Read阶段Mem0 v3 转而采用多信号混合检索Multi-Signal Hybrid Search和实体链接Entity Linking机制来动态还原关联。系统引入了 spaCy [nlp] 工具包可通过 Python 的 nlp 附加包进行安装通过在本地进行极其轻量且高速度的命名实体提取与词干 lemmatization在检索阶段通过实体对齐和相似度动态重排而非依赖物理图数据库从而在亚百毫秒内拼装出高相关度的实体网。如果宿主环境缺乏 spaCy 支持系统亦能平滑、优雅地降级到纯语义的向量过滤。这种向“ADD-Only 提取 检索端动态排序与降级”的转型代表了整个智能体记忆行业从“重写入、强结构”向“轻写入、智能检索”的实用工程演变。零信任安全、跨应用上下文协同与未来展望智能体长期记忆由于包含了大量敏感的个人习惯、商业机密和历史行为数据已经成为用户隐私泄露和提示词注入Prompt Injection等安全威胁的重要攻击面。为了确保长期记忆的完整性与私密性学术界与工业界联合提出了如MemTrust这样的硬件级零信任安全架构。MemTrust 抽象出了智能体记忆的五个核心层存储层Storage、提取层Extraction、学习层Learning、检索层Retrieval以及治理层Governance。其核心防御策略是引入了硬件保护的可信执行环境TEE如 Intel SGX 或 AMD SEV事实抽取、实体识别和向量嵌入等高频认知计算必须完整运行在受密码学保护的 TEE 硬件安全区内部杜绝操作系统级别的内存窃听。所有持久化到外部如不可信的公共云向量数据库、云端图数据库的数据必须在 TEE 内部通过高强度对称密钥进行加密后方可写盘密钥完全控制在用户本地或 TEE 飞地内确保即使云端底座遭受物理渗透攻击者也仅能获取无意义的密文。所有的访问控制策略Governance与检索路由均在 TEE 边界内结算从根本上杜绝了因第三方恶意插件注入而导致的记忆越权获取。随着智能体安全壁垒被攻克长期记忆系统将逐渐从单一智能体的本地私有设施演化为支撑整个数字社会的多端基础设施即“跨应用统一上下文层Unified Context Layer”。在未来的应用生态中用户将拥有一个完全去中心化、安全隔离的长期记忆飞地。这个上下文层将扮演类似于“上下文单点登录Context SSO”的角色。无论用户从哪个前台应用例如使用 Figma 制定设计风格、使用 Cursor 编写业务代码、还是在 Claude / ChatGPT 客户端咨询日常事务切入这些异构的 AI 工具都能够基于用户的授权按需、安全地从统一上下文层中读取并补充已习得的用户偏好、过往决定和系统风格并将新的发现和行为数据增量写回。这一统一上下文层的建立不仅能彻底解决新接入 AI 工具时的“冷启动”尴尬也能够让 AI 助手真正摆脱单一软件平台的生态壁垒转变为能够在工作、生活和不同开发链路中紧密跟随、高度理解用户意图的、终生演进的专属数字合伙人。引用的著作State and Memory is All You Need for Robust and Reliable AI Agents Matthew Muhoberac1, Atharva Parikh2, Nirvi Vakharia3, Saniya - arXiv, https://arxiv.org/pdf/2507.00081?State and Memory is All You Need for Robust and Reliable AI Agents - ResearchGate, https://www.researchgate.net/publication/393260844_State_and_Memory_is_All_You_Need_for_Robust_and_Reliable_AI_AgentsConversational Memory for LLMs with Langchain - Pinecone, https://www.pinecone.io/learn/series/langchain/langchain-conversational-memory/Agentic AI Memory vs Vector Database: Architecture Guide 2026 - Atlan, https://atlan.com/know/agentic-ai-memory-vs-vector-database/Conversational memory in chatbots - Padmé, https://www.padme.ai/post/conversational-memoryOpenDataBox/awesome-agent-memory - GitHub, https://github.com/OpenDataBox/awesome-agent-memoryMemGPT: Towards LLMs as Operating Systems - arXiv, https://arxiv.org/pdf/2310.08560What Is Agent Memory? A Guide to Enhancing AI Learning and Recall | MongoDB, https://www.mongodb.com/resources/basics/artificial-intelligence/agent-memoryGraph-based Agent Memory: Taxonomy, Techniques, and Applications - arXiv, https://arxiv.org/html/2602.05665v1Are We Ready For An Agent-Native Memory System? - arXiv, https://arxiv.org/html/2606.24775v1LLM Agent Memory: A Survey from a Unified Representation–Management Perspective, https://www.preprints.org/manuscript/202603.0359Memory in Microsoft Foundry Agent Service (preview), https://learn.microsoft.com/en-us/azure/foundry/agents/concepts/what-is-memoryMemMachine: A Ground-Truth-Preserving Memory System for Personalized AI Agents, https://arxiv.org/html/2604.04853v1Memory in the LLM Era: Modular Architectures and Strategies in a Unified Framework [Experiment, Analysis Benchmark] - arXiv, https://arxiv.org/html/2604.01707v1Reduce Token Cost for LLMs: AI Agent Memory with Valkey and Mem0, https://valkey.io/blog/ai-agent-memory-with-valkey-and-mem0/Memory | Developer Documentation - LlamaParse - LlamaIndex, https://developers.llamaindex.ai/python/framework/module_guides/deploying/agents/memory/Long-term Memory in LLM Applications, https://langchain-ai.github.io/langmem/concepts/conceptual_guide/azure-ai-docs/articles/foundry/how-to/develop/langchain-memory.md at main - GitHub, https://github.com/MicrosoftDocs/azure-ai-docs/blob/main/articles/foundry/how-to/develop/langchain-memory.mdConversation Summary Memory in LangChain - GeeksforGeeks, https://www.geeksforgeeks.org/artificial-intelligence/conversation-summary-memory-in-langchain/Types of LangChain Memory and How to Use Them - ProjectPro, https://www.projectpro.io/article/langchain-memory/1161langchain-ai/langmem - GitHub, https://github.com/langchain-ai/langmemmemory | langchain_classic - LangChain Reference, https://reference.langchain.com/python/langchain-classic/chains/conversation/memoryConversationSummaryMemory | langchain_classic - LangChain Reference, https://reference.langchain.com/python/langchain-classic/memory/summary/ConversationSummaryMemoryHow to Implement LangChain Memory - OneUptime, https://oneuptime.com/blog/post/2026-01-27-langchain-memory/viewByteRover: Agent-Native Memory Through LLM-Curated Hierarchical Context - arXiv, https://arxiv.org/html/2604.01599v1Conversational Memory in LangChain | Aurelio AI, https://www.aurelio.ai/learn/langchain-conversational-memoryConversationSummaryBufferMe, https://langchain-doc.readthedocs.io/en/latest/modules/memory/types/summary_buffer.htmlMemory | Letta Docs, https://docs.letta.com/letta-code/memoryAgent Memory Infrastructure on GPU Cloud: Deploy Mem0, Zep, and Persistent Vector Memory for Production AI Agents (2026) | Spheron Blog, https://www.spheron.network/blog/agent-memory-gpu-cloud-mem0-zep-guide/GitHub - getzep/graphiti: Build Real-Time Knowledge Graphs for AI Agents, https://github.com/getzep/graphitiOpen Source: Migrating to the New Memory Algorithm - Mem0 Documentation, https://docs.mem0.ai/migration/oss-v2-to-v3Virtual context management with MemGPT and Letta - Leonie Monigatti, https://www.leoniemonigatti.com/blog/memgpt.htmlAgent_Memory_Techniques/all_techniques/26_letta_memgpt_patterns/letta_memgpt_patterns.ipynb at main - GitHub, https://github.com/NirDiamant/Agent_Memory_Techniques/blob/main/all_techniques/26_letta_memgpt_patterns/letta_memgpt_patterns.ipynbLetta: Platform for Stateful LLM Agents | by DhanushKumar - Stackademic, https://blog.stackademic.com/letta-platform-for-stateful-llm-agents-a83b58a1c926LLMs as Operating Systems: Agent Memory - DeepLearning.AI - Learning Platform, https://learn.deeplearning.ai/courses/llms-as-operating-systems-agent-memory/lesson/wimxl/understanding-memgptZep: A Temporal Knowledge Graph Architecture for Agent Memory - arXiv, https://arxiv.org/html/2501.13956v1Graphiti - FalkorDB Docs, https://docs.falkordb.com/agentic-memory/graphiti.htmlavbiswas/mem0-dspy: A minimalist implementation of Agentic Memory architecture is DSPy, https://github.com/avbiswas/mem0-dspyMemory blocks (core memory) | Letta Docs, https://docs.letta.com/guides/core-concepts/memory/memory-blocks/Meet Lenny’s Memory: Building context graphs for AI agents - Neo4j, https://neo4j.com/blog/developer/meet-lennys-memory-building-context-graphs-for-ai-agents/memgraph-example.ipynb - mem0ai/mem0 - GitHub, https://github.com/mem0ai/mem0/blob/main/examples/graph-db-demo/memgraph-example.ipynbGraph Memory for LLM Agents with mem0-falkordb, https://www.falkordb.com/blog/graph-memory-llm-agents-mem0-falkordb/MemTrust: A Zero-Trust Architecture for Unified AI Memory System - arXiv, https://arxiv.org/html/2601.07004v1
