当前位置: 首页
AI
LangChain重磅更新:AI自主决定何时压缩记忆

LangChain重磅更新:AI自主决定何时压缩记忆

热心网友 时间:2026-03-13
转载

对于正在构建长时间运行或交互式Agent的开发者而言,这个功能值得一试。它本身不算庞大,但它所指向的方向——让模型更主动地管理工作记忆——可能会成为下一代Agent框架的标准配置。

免费影视、动漫、音乐、游戏、小说资源长期稳定更新! 👉 点此立即查看 👈

AI Agent在执行长任务时有一个绕不开的问题:上下文窗口是有限的。

当对话历史、工具调用结果、文件内容不断堆积,模型的注意力会被稀释,关键指令被淹没,决策质量随之下滑——这种现象被称为“上下文腐烂”(context rot)。

LangChain的Deep Agents SDK此前已经实现了自动压缩:当上下文使用量达到模型窗口的85%时,系统会自动触发摘要化,将旧消息替换为结构化摘要。

这套机制能用,但不够聪明——它不知道现在是不是压缩的好时机。

最新发布的版本做了一件有意思的事:把“何时压缩”这个决定权交给了模型本身。

压缩上下文这件事,有好时机,也有坏时机。

如果模型正在进行一次复杂的代码重构,中途突然压缩,很可能丢失关键的中间状态,导致后续步骤出错。

但如果一个阶段性任务刚刚完成,用户准备开启新话题,这时候压缩就非常合适——旧的上下文已经没什么用了,清掉反而能让模型更专注。

很多交互式编程工具(比如Claude Code)提供了/compact这样的手动命令,让用户自己决定什么时候清理上下文。但这要求用户理解上下文窗口的概念,并且在合适的时机主动操作——对大多数人来说这个门槛并不低。

Deep Agents的新方案是:把这个工具暴露给模型,让它自己判断。

LangChain在系统提示中为模型提供了判断指引,总结下来大致有这几类场景:

• 任务边界:用户明确表示要切换到新任务,或者当前交付物已完成并得到确认
• 信息提取完毕:模型从大量上下文中得出了结论、摘要或关键事实,原始内容已不再需要
• 即将消耗大量新内容:生成长文档,或者要读入大量新文件
• 进入复杂多步流程前:大型重构、迁移、多文件编辑等任务开始之前,或者计划已制定、即将进入执行阶段
• 旧上下文已被新决策覆盖:新需求推翻了之前的方向,或者存在大量无效的探索路径需要清理

这些场景的共同特点是:历史上下文的边际价值已经很低,而接下来的任务需要更清晰的工作记忆。

这个工具的实现复用了Deep Agents已有的摘要化中间件逻辑:保留最近10%的可用上下文作为近期消息,对更早的内容生成结构化摘要。

触发压缩的工具调用本身及其响应,也会被保留在近期上下文中。

图片

值得一提的是,Deep Agents会把完整的对话历史保存在虚拟文件系统中,即便压缩之后,原始内容依然可以通过文件系统检索找回。这在一定程度上降低了误触发压缩的风险。

在SDK中,这个功能作为独立中间件提供,需要手动加入到create_deep_agent的中间件列表:

from deepagents import create_deep_agent from deepagents.backends import StateBackend from deepagents.middleware.summarization import ( create_summarization_tool_middleware, ) backend = StateBackend() model = "openai:gpt-5.4" agent = create_deep_agent( model=model, middleware=[ create_summarization_tool_middleware(model, backend), ], )

在Deep Agents CLI中,这个功能默认开启。用户也可以继续使用/compact命令手动触发。

LangChain在调优时刻意让这个功能偏保守。

他们用三种方式进行了测试:

基于自家LangSmith追踪记录构建的评估集(注入后续prompt,判断是否应该触发压缩)Terminal-bench-2基准测试(未观察到任何自主压缩行为)团队内部在Deep Agents CLI上的日常编码任务。

结果是:模型触发压缩的频率不高,但每次触发都发生在比较合理的节点,而且确实改善了后续的工作流。

这背后有一个更大的设计哲学:Agent框架应该尽量“让开”,把更多控制权交给底层推理模型本身,而不是靠手工调参来打补丁。这是“苦涩的教训”(bitter lesson)在Agent设计上的一次具体实践——与其精心设计触发规则,不如让模型自己学会判断。

对于正在构建长时间运行或交互式Agent的开发者来说,这个功能值得一试。它本身不算大,但它所指向的方向——让模型更主动地管理工作记忆——可能会成为下一代Agent框架的标准。

来源:https://www.51cto.com/article/838062.html

游乐网为非赢利性网站,所展示的游戏/软件/文章内容均来自于互联网或第三方用户上传分享,版权归原作者所有,本站不承担相应法律责任。如您发现有涉嫌抄袭侵权的内容,请联系youleyoucom@outlook.com。

同类文章
更多
DeepMind之父警示:我开发的AI或威胁人类,却已难以阻止

DeepMind之父警示:我开发的AI或威胁人类,却已难以阻止

新智元报道编辑:KingHZ【新智元导读】从拦截彼得·蒂尔、警告马斯克,到如今公开说「必须有适应能力」,哈萨比斯史诗级转身:AI安全窗口正在永久关闭,他不再幻想制度,而是赌上全部身家——赌影响力,赌

时间:2026-03-30 22:55
DeepSeek挑战Transformer记忆?查表法重塑模型架构新思路

DeepSeek挑战Transformer记忆?查表法重塑模型架构新思路

新智元报道编辑:LRST【新智元导读】ICLR论文STEM架构率先提出「查表式记忆」架构,早于DeepSeek Engram三个月。它将Transformer的FFN从动态计算改为静态查表,用tok

时间:2026-03-30 22:48
华羿机器人登陆港交所市值破百亿,领跑国内国际市场

华羿机器人登陆港交所市值破百亿,领跑国内国际市场

今日,华沿机器人正式在港交所挂牌上市,开启了其资本市场的新征程。此次上市,华沿机器人发售价定为每股17 00港元,折合人民币约14 99元。开盘时,股价为16 8港元,即人民币14 82元,而收盘价

时间:2026-03-30 22:31
被投科技企业版图观察:美团AI如何链接50+伙伴

被投科技企业版图观察:美团AI如何链接50+伙伴

当所有人盯着大模型时,美团看到了什么?作者|徐珊编辑|郑玄「为了保持企业有 Day1 的活力,你必须快速做出好的决策。这对初创企业来说或许很容易,但对大型组织来说却极具挑战。」2016 年,亚马逊创

时间:2026-03-30 21:07
Meta智能眼镜发售在即:两款新品专为近视用户设计

Meta智能眼镜发售在即:两款新品专为近视用户设计

智东西编译 佳扬编辑 云鹏智东西3月30日消息,据彭博社报道,Meta计划下周推出两款全新Ray-Ban智能眼镜,专为佩戴近视眼镜的人士设计。消息人士透露,新款眼镜为矩形和圆形两种款式,主要通过传统

时间:2026-03-30 21:01
热门专题
更多
刀塔传奇破解版无限钻石下载大全 刀塔传奇破解版无限钻石下载大全
洛克王国正式正版手游下载安装大全 洛克王国正式正版手游下载安装大全
思美人手游下载专区 思美人手游下载专区
好玩的阿拉德之怒游戏下载合集 好玩的阿拉德之怒游戏下载合集
不思议迷宫手游下载合集 不思议迷宫手游下载合集
百宝袋汉化组游戏最新合集 百宝袋汉化组游戏最新合集
jsk游戏合集30款游戏大全 jsk游戏合集30款游戏大全
宾果消消消原版下载大全 宾果消消消原版下载大全
  • 日榜
  • 周榜
  • 月榜
热门教程
更多
  • 游戏攻略
  • 安卓教程
  • 苹果教程
  • 电脑教程