告别碎片化记忆中科院开源Mandol轻量级内存原生Agent系统

AI助手在面对需要跨越多轮对话、持续管理用户偏好并跟踪复杂事件脉络的场景时，最令其头疼的问题是什么？

答案十有八九是「记不住」和「记错了」。尤其是当Agent的应用场景从简单的信息问答扩展至智能客服、个人助理、社交陪伴乃至医疗辅助等复杂领域时，高效可靠的记忆系统便成为了真正的性能瓶颈。它不仅要存储跨会话的对话历史、用户意图与实体状态，还需在应对复杂查询时，能够以低延迟提供精准的证据支持。这项挑战，并不简单。

目前市面上主流的Agent记忆系统，例如Mem0、Zep以及MemOS等，普遍面临着一个共同的困境：它们倾向于将记忆拆解为向量数据库、图数据库与关系型存储的异构组合。这种碎片化的存储方式，直接导致了跨库查询的巨大开销，并且其检索机制大多是RAG式的被动相似度匹配，这不仅容易引入噪声、遗漏关键的关联线索，就连Token预算也几乎难以有效控制。

针对上述痛点，中国科学院软件研究所等顶尖机构提出了一个富有创新性的解决方案——Mandol。简而言之，这是一套凝聚式的内存原生分层记忆系统，其核心在于将原本碎片化的记忆表示和异构存储，压缩到一个统一的内存原生架构之中。

• 论文标题：Mandol: An Agglomerative Agent Memory System for Long-Term Conversations

• arXiv 论文链接：https://arxiv.org/pdf/2606.29778

• 项目地址：https://github.com/AgentCombo/Mandol

具体而言，Mandol从三个核心维度进行了协同设计——分层记忆模型、统一内存语义数据结构、以及智能量化检索机制。其目标在于，为Agent打造一个既能保证强大表达能力，又能兼顾检索效率与上下文质量的记忆底座。在LoCoMo和LongMemEval这两项权威的长对话记忆评测中，Mandol在开源系统里取得了最优的总体准确率；若使用GPT-4.1-mini进行答案生成，其整体准确率分别达到了92.21%和88.40%。在性能方面同样表现出色：在10 QPS的并发压力下，平均检索延迟仅为82.2毫秒，速度比最快的基线上提升了约5.4倍；而插入延迟为39.7毫秒，也快出了4.8倍。更值得一提的是，即便是在消费级的笔记本硬件上运行，Mandol的延迟表现也优于现有系统，展现出巨大的端侧部署潜力。

从「碎片化存储」到「被动检索」：核心瓶颈在哪里？

在实际的应用场景中，Agent所面临的记忆查询需求千变万化。简单的事实提取仅仅是基础，真正棘手的是以下三类复杂查询：

强时序性检索——例如，「去年暑假我去北欧旅行期间预订了哪些酒店，总花费是多少？」系统必须能精准回溯你在不同城市的多次住宿记录，关联具体的时间与花费信息，并进行汇总计算。这要求具备极强的时序事件提取与聚合能力。

跨会话多跳推理——用户可能在某次会话中提及「我对海鲜过敏」，几天后又在另一次会话中描述「吃完晚饭后皮肤起了大片的红疹」。系统不能简单地依赖关键词匹配，而是必须将过敏史与当前症状进行跨会话关联，并做出合理的推理结论。

动态状态更新与去噪——用户的购房偏好可能从「郊区大户型」转变为「市区学区房」。系统必须敏锐地捕捉并记录这一变化，当用户询问「按我最新的需求推荐楼盘」时，只能基于新的条件进行推荐，确保过往的陈旧偏好不会干扰当前的判断。

面对这些复杂需求，当前的主流系统主要受困于以下三个关键点。

第一，记忆信息难以统一表示

向量嵌入虽然擅长语义相似度匹配，但在显式表达逻辑结构与时序关系方面存在不足；知识图谱具备结构化能力，但其固定的模式难以灵活支撑动态变化的语义信息。这两种方法无法有效统一，导致记忆信息被割裂，查询时难以获得一个完整的视图。

第二，跨库查询开销大

混合查询需要在向量库、图库以及其他存储系统之间频繁地进行协调与编排，由此产生的序列化与I/O开销会显著增加。想要实现低延迟的实时交互，难度非常大。

第三，查询精度与Token消耗难以兼顾

传统的RAG被动召回方式存在明显缺陷：容易引入噪声和冲突信息，还可能遗漏多跳推理所需的关键线索。同时，Token消耗也难以得到有效约束——简单的查询可能白白占用大量的上下文窗口，而复杂查询的关键证据链却可能因为窗口截断而丢失。

Mandol的三个核心设计：表示、存储、检索一体化

针对上述痛点，Mandol从记忆模型、存储架构与检索机制三个方向，进行了一套系统性的设计。

设计一：分层记忆模型——用结构化语义图实现统一表征

Mandol将记忆巧妙地划分为两个层次。

基础记忆层直接存储原始的交互信息，它采用记忆单元（封装原始信息与语义向量）、记忆空间（实现多粒度逻辑隔离）、显式关系（包括时序、引用、状态更新等）以及隐式语义关系，共同构建出一个统一的结构化语义图。

高阶抽象记忆层则交由大模型自动从基础层提炼出情景记忆（事件链）、语义记忆（实体关系图）以及情感记忆（用户偏好演化链）等高阶抽象知识。

两个层次之间通过可追溯的链接保持着双向关联——任何抽象的推理结论，都能够溯源到最原始的对话证据。这样一来，既保留了基础层的完整信息，又提供了支撑推理的高阶视图，记忆统一表示的问题算是找到了一套系统性的解法。

具体到结构化语义图：基础层中的记忆单元作为节点存在，显式关系边通过规则解析直接建立，而隐式语义边则在查询时按需从向量索引中获取。高阶抽象层在此基础上进一步提炼：事件链通过时序和因果边连接各个事件节点；实体图通过引用和属性边来组织实体关系；偏好演化链则通过状态更新边，持续跟踪用户偏好的变化轨迹。

举个例子：一个简短的对话片段「预订了一间胡同民宿」被增强为带有时空上下文的事件节点后，Mandol不仅会将它和同次旅行的其他事件（例如「航班延误」「参观故宫」）建立时序边，还能通过语义索引与之前会话中的「计划预订王府井酒店」建立跨会话的隐式关联，并在此基础上抽象出一条状态更新边——住宿偏好从「王府井酒店」到「胡同民宿」的完整演化过程便被精准刻画。所有这些抽象节点都保留着指向原始基础单元的引用，为后续的精准检索打下了既细粒度、又可推理的数据基础。

设计二：内存原生语义数据结构——消除跨库查询延迟

异构多库的架构乃是延迟的主要来源。Mandol提出的解决方案是基于内存语义数据结构的统一存储架构，并设计了 SemanticMap 和 SemanticGraph 协同工作的原生内存数据结构，在单一的地址空间里，实现了键值存储、向量索引与图结构的原生融合。

SemanticMap负责融合键值存储和向量结构，以解决记忆单元的多模态数据存储与语义查询问题，还能通过记忆空间标签实现上下文的逻辑隔离；SemanticGraph则统一管理显式记忆关系和隐式语义关联——显式关系以结构化边的形式直接存储在图里，而隐式语义关联则依托SemanticMap中的向量索引，按需检索并动态返回相似的邻居节点，从而避免了提前枚举所有潜在语义边的繁琐工作。两者相互关联，在物理层面实现了结构化语义图的统一存储视图。

在此基础上，Mandol提供了一套原子化的混合检索算子，涵盖了记忆单元查询、空间查询、关系查询以及多跳查询等操作，将向量匹配和图遍历等操作统一封装为内存内的高效执行单元，极大地减少了异构存储所带来的I/O延迟。此外，活跃记忆层通过异步分页机制与嵌入式的持久化后端DuckDB相连，用于处理冷数据或长期存储需求。

设计三：智能量化检索机制——在Token预算内构建高质量上下文

Mandol将检索任务重新定义为「在有限的Token预算下构建高质量的上下文」，并构建了一套无需大模型参与的量化检索流程。

核心思路是这样的：首先通过查询自适应的智能路由进行预算分配和多源并行召回（根据查询的特征，选择一部分高阶记忆和基础记忆进行检索），以确保记忆信息的完整覆盖；然后，对召回的结果执行记忆源内部的量化去噪以及跨记忆源的冲突消解，移除噪声和冗余信息；最后，在Token预算的约束下，完成上下文的精简与生成，兼顾相关性与多样性，以最小的代价获取高信息密度的证据上下文。

实验：准确率领先，效率大幅提升，部署友好

研究团队在LoCoMo和LongMemEval这两个长对话记忆评测基准上，对Mandol进行了全面的验证。

在检索质量方面，以GPT-4.1-mini作为生成模型、GPT-4o-mini作为评估模型，Mandol在LoCoMo和LongMemEval上分别取得了92.21%和88.40%的整体准确率，在开源系统中表现最优。特别在涉及多跳推理、时序推理以及知识更新等复杂查询类型上，其优势尤为明显。

有趣的是，即使在更换为更轻量的检索后端（如Qwen3-Embedding-0.6B和bge-reranker-v2-m3）后，Mandol的总体准确率以及多数关键任务的性能依然高于那些使用更大检索模型的对比系统，并且Token消耗还降低了17.4%到20.0%。这表明其性能增益主要来源于记忆组织与检索机制本身的结构性优势，而非单纯依赖模型规模的堆砌。

系统性能更是令人印象深刻：在10 QPS并发负载的服务器环境（NVIDIA H800 GPU）下，其平均检索延迟仅为82.2毫秒，比最快的基线快约5.4倍；平均记忆插入延迟为39.7毫秒，快约4.8倍。

更值得注意的是，在本地消费级设备（笔记本NVIDIA RTX 5090）的补充实验中，Mandol的延迟仍然低于现有的其他系统，其本地部署的潜力非常出色。这种效率优势的根本原因，在于其进程内内存原生架构彻底消除了数据库往返和跨库协调的开销。

在资源消耗方面，Mandol的表现同样不俗。它的内存占用适中，并且由于不再依赖外部数据库服务和网络通信，完成标准长对话负载的整体耗时仅为对比系统的四分之一到十分之一。

结语

Mandol通过凝聚式分层记忆模型、内存原生统一存储以及智能量化检索这三大核心创新，为Agent应用提供了一个兼顾高精度、低延迟与轻量化部署的优异记忆系统方案。该系统已在GitHub上开源，方便用户复现、试用与二次开发。得益于其内存原生架构，它无需依赖外部数据库，在消费级设备上就能高效运行，为端侧Agent的记忆管理开启了一扇崭新的大门。

对于正在构建需要可靠长期记忆的对话Agent、推荐Agent或陪伴Agent的研究与工程团队而言，Mandol无疑提供了一个兼具精度、性能与实用价值的理想选择。

你是一名 AI 行业编辑，请围绕下面这条热点输出一份资讯解读：
热点：告别碎片化记忆中科院开源Mandol轻量级内存原生Agent系统要求：
1. 先用一句话解释这条热点在讲什么
2. 再总结它为什么重要
3. 说明会影响哪些 AI 产品或内容方向
4. 最后给出 3 个适合资讯站使用的标题