LangChain重磅更新:AI自主决定何时压缩记忆
对于正在构建长时间运行或交互式Agent的开发者而言,这个功能值得一试。它本身不算庞大,但它所指向的方向——让模型更主动地管理工作记忆——可能会成为下一代Agent框架的标准配置。
免费影视、动漫、音乐、游戏、小说资源长期稳定更新! 👉 点此立即查看 👈
AI Agent在执行长任务时有一个绕不开的问题:上下文窗口是有限的。
当对话历史、工具调用结果、文件内容不断堆积,模型的注意力会被稀释,关键指令被淹没,决策质量随之下滑——这种现象被称为“上下文腐烂”(context rot)。
LangChain的Deep Agents SDK此前已经实现了自动压缩:当上下文使用量达到模型窗口的85%时,系统会自动触发摘要化,将旧消息替换为结构化摘要。
这套机制能用,但不够聪明——它不知道现在是不是压缩的好时机。
最新发布的版本做了一件有意思的事:把“何时压缩”这个决定权交给了模型本身。
压缩上下文这件事,有好时机,也有坏时机。
如果模型正在进行一次复杂的代码重构,中途突然压缩,很可能丢失关键的中间状态,导致后续步骤出错。
但如果一个阶段性任务刚刚完成,用户准备开启新话题,这时候压缩就非常合适——旧的上下文已经没什么用了,清掉反而能让模型更专注。
很多交互式编程工具(比如Claude Code)提供了/compact这样的手动命令,让用户自己决定什么时候清理上下文。但这要求用户理解上下文窗口的概念,并且在合适的时机主动操作——对大多数人来说这个门槛并不低。
Deep Agents的新方案是:把这个工具暴露给模型,让它自己判断。
LangChain在系统提示中为模型提供了判断指引,总结下来大致有这几类场景:
• 任务边界:用户明确表示要切换到新任务,或者当前交付物已完成并得到确认
• 信息提取完毕:模型从大量上下文中得出了结论、摘要或关键事实,原始内容已不再需要
• 即将消耗大量新内容:生成长文档,或者要读入大量新文件
• 进入复杂多步流程前:大型重构、迁移、多文件编辑等任务开始之前,或者计划已制定、即将进入执行阶段
• 旧上下文已被新决策覆盖:新需求推翻了之前的方向,或者存在大量无效的探索路径需要清理
这些场景的共同特点是:历史上下文的边际价值已经很低,而接下来的任务需要更清晰的工作记忆。
这个工具的实现复用了Deep Agents已有的摘要化中间件逻辑:保留最近10%的可用上下文作为近期消息,对更早的内容生成结构化摘要。
触发压缩的工具调用本身及其响应,也会被保留在近期上下文中。

值得一提的是,Deep Agents会把完整的对话历史保存在虚拟文件系统中,即便压缩之后,原始内容依然可以通过文件系统检索找回。这在一定程度上降低了误触发压缩的风险。
在SDK中,这个功能作为独立中间件提供,需要手动加入到create_deep_agent的中间件列表:
from deepagents import create_deep_agent
from deepagents.backends import StateBackend
from deepagents.middleware.summarization import (
create_summarization_tool_middleware,
)
backend = StateBackend()
model = "openai:gpt-5.4"
agent = create_deep_agent(
model=model,
middleware=[
create_summarization_tool_middleware(model, backend),
],
)
在Deep Agents CLI中,这个功能默认开启。用户也可以继续使用/compact命令手动触发。
LangChain在调优时刻意让这个功能偏保守。
他们用三种方式进行了测试:
基于自家LangSmith追踪记录构建的评估集(注入后续prompt,判断是否应该触发压缩)Terminal-bench-2基准测试(未观察到任何自主压缩行为)团队内部在Deep Agents CLI上的日常编码任务。
结果是:模型触发压缩的频率不高,但每次触发都发生在比较合理的节点,而且确实改善了后续的工作流。
这背后有一个更大的设计哲学:Agent框架应该尽量“让开”,把更多控制权交给底层推理模型本身,而不是靠手工调参来打补丁。这是“苦涩的教训”(bitter lesson)在Agent设计上的一次具体实践——与其精心设计触发规则,不如让模型自己学会判断。
对于正在构建长时间运行或交互式Agent的开发者来说,这个功能值得一试。它本身不算大,但它所指向的方向——让模型更主动地管理工作记忆——可能会成为下一代Agent框架的标准。
游乐网为非赢利性网站,所展示的游戏/软件/文章内容均来自于互联网或第三方用户上传分享,版权归原作者所有,本站不承担相应法律责任。如您发现有涉嫌抄袭侵权的内容,请联系youleyoucom@outlook.com。
同类文章
DeepMind之父警示:我开发的AI或威胁人类,却已难以阻止
新智元报道编辑:KingHZ【新智元导读】从拦截彼得·蒂尔、警告马斯克,到如今公开说「必须有适应能力」,哈萨比斯史诗级转身:AI安全窗口正在永久关闭,他不再幻想制度,而是赌上全部身家——赌影响力,赌
DeepSeek挑战Transformer记忆?查表法重塑模型架构新思路
新智元报道编辑:LRST【新智元导读】ICLR论文STEM架构率先提出「查表式记忆」架构,早于DeepSeek Engram三个月。它将Transformer的FFN从动态计算改为静态查表,用tok
华羿机器人登陆港交所市值破百亿,领跑国内国际市场
今日,华沿机器人正式在港交所挂牌上市,开启了其资本市场的新征程。此次上市,华沿机器人发售价定为每股17 00港元,折合人民币约14 99元。开盘时,股价为16 8港元,即人民币14 82元,而收盘价
被投科技企业版图观察:美团AI如何链接50+伙伴
当所有人盯着大模型时,美团看到了什么?作者|徐珊编辑|郑玄「为了保持企业有 Day1 的活力,你必须快速做出好的决策。这对初创企业来说或许很容易,但对大型组织来说却极具挑战。」2016 年,亚马逊创
Meta智能眼镜发售在即:两款新品专为近视用户设计
智东西编译 佳扬编辑 云鹏智东西3月30日消息,据彭博社报道,Meta计划下周推出两款全新Ray-Ban智能眼镜,专为佩戴近视眼镜的人士设计。消息人士透露,新款眼镜为矩形和圆形两种款式,主要通过传统
- 日榜
- 周榜
- 月榜
相关攻略
2015-03-10 11:25
2015-03-10 11:05
2021-08-04 13:30
2015-03-10 11:22
2015-03-10 12:39
2022-05-16 18:57
2025-05-23 13:43
2025-05-23 14:01
热门教程
- 游戏攻略
- 安卓教程
- 苹果教程
- 电脑教程

