当前位置: 首页
AI
大模型告别记忆压缩:细节不失,GAM算法深度解析

大模型告别记忆压缩:细节不失,GAM算法深度解析

热心网友 时间:2025-11-28
转载

GAM最核心的贡献在于对记忆本质的重新诠释。传统方法将记忆视为数据压缩,而GAM则提出记忆其实是动态的检索过程——就像人类回忆起某件事时,往往先进行模糊搜索,再进行细节联想。

免费影视、动漫、音乐、游戏、小说资源长期稳定更新! 👉 点此立即查看 👈

传统AI记忆系统存在一个根本缺陷:为了节省存储空间,系统总是试图将冗长的思维链条和工具调用记录压缩成简短的摘要。这就像把一本百科全书压成便利贴,当你需要具体信息时,系统无法提供足够的细节支撑,因为关键内容都在压缩过程中丢失了。

北京通用人工智能研究院近期发表重要论文《通用智能体记忆与深度探索》,创新性地提出了GAM(通用智能记忆)框架,采用"即时编译"策略。该框架的核心逻辑是:搜索才是记忆的本质,预设存储的记忆只是为了支持检索过程。该系统同时维护两种数据:微型备忘录(约50词)和完整对话记录的搜索库。只有当AI需要回溯时,记忆检索组件才会启动搜索。这套机制就像一位档案管理员,能够根据当前需求动态重建上下文。

双组件设计

图片

GAM框架包含两大核心模块:

记忆编码器:将智能体的历史轨迹按每页2048个token进行分割,为每页生成轻量级摘要,同时完整保留原始信息。该流程参考BGE地标检索思路,为每个页面添加语义明确的标题,确保后续检索的准确性。

研究引擎:接收查询后执行三步循环——规划、检索、反思。系统配备三种检索工具:向量搜索处理语义相似性,BM25负责关键词匹配,ID访问则直接定位特定页面。默认最多进行3轮反思,每轮检索5个页面,系统会根据任务复杂度动态调整循环次数。

值得注意的是,研究引擎对模型规模变化更为敏感。当使用0.5B参数模型时,记忆编码器尚能保持48.83的F1分数,但研究引擎的表现就直接跌至9.08了。原因很直观:信息提取相对简单,而迭代规划推理则复杂得多。

实验数据

在文档问答测试中,该方法比长上下文提示准确率提升37%,比基础检索增强生成高出28%。

图片

具体数据进一步证实了该方法的有效性:

LoCoMo对话记忆测试:单跳任务F1从48.62%提升至57.75%,多跳推理从35%跃升至42% HotpotQA多跳问答:在448K token文档库中F1达到59.81%,而传统方法普遍低于50% RULER长本文理解:多跳追踪任务准确率93.2%,而RAG方法接近0%

其中最引人深思的发现是"上下文稀释"现象。即使使用128K窗口的长文本模型,面对大量干扰信息时性能仍然不佳。简单地扩展窗口容量并非根本解决方案。

工具组合效应

单独使用检索工具效果有限,但组合使用则威力倍增。BM25最稳定(F1=48.64%),向量搜索次之(32.31%),ID访问相对较弱(28.96%)。三者结合达成最佳性能。

图片

研究团队还验证了"测试时计算缩放"效应,即增加反思轮数和检索页面数都能持续提升性能。这是传统固定流程无法实现的弹性优势。

效率平衡

GAM处理1000页历史记录的平均响应时间为1.2秒。

详细性能表现: 56K文档:在线响应12.43秒 224K文档:16.65秒 448K文档:18.49秒

虽然比传统方法慢10-50倍,但准确率从20-30%提升至50-60%。这样的性价比完全值得。

图片

有学者指出,这种即时检索机制解决了AI工作流的调试难题。"决策路径比最终状态更重要"。不过也有观点认为,这不过是将人类档案管理的老办法用在了AI系统上。

小结

GAM框架的核心突破在于对记忆本质的重新定义。传统方法把记忆当作数据压缩,而GAM则认为记忆是动态搜索过程——就像人类回忆时先进行模糊检索,再逐步重建具体细节。

这套设计带来三大优势:保真度高(完整保留原始信息)、适应性强(按需定制上下文)、可优化(支持端到端强化学习)。

论文:https://arxiv.org/abs/2511.18423

来源:https://www.51cto.com/article/830608.html

游乐网为非赢利性网站,所展示的游戏/软件/文章内容均来自于互联网或第三方用户上传分享,版权归原作者所有,本站不承担相应法律责任。如您发现有涉嫌抄袭侵权的内容,请联系youleyoucom@outlook.com。

同类文章
更多
OpenClaw 赋能 UI自动化

OpenClaw 赋能 UI自动化

目录 一、OpenClaw到底是什么? 二、搭建OpenClaw需要准备什么环境? 三、如何开通阿里云百炼Coding Plan套餐? 1、访问Coding Plan购买页面 2、选择Lite基础套餐(7 9元 月) 3、获取并保管好API Key 四、购买一台阿里云服务器 五、快速部署OpenCl

时间:2026-04-01 22:30
Openclaw/clawbot

Openclaw/clawbot

通过Windows PowerShell命令行安装OpenClaw的详细教程 根据OpenClaw官方安装说明,在Windows系统中打开PowerShell终端,输入以下远程安装命令即可启动安装程序: iwr -useb https: openclaw ai install ps1 | iex

时间:2026-04-01 22:28
OpenClaw 安装日记

OpenClaw 安装日记

macOS 安装 OpenClaw 全攻略:2026 年常见问题排查与终极解决方案 记录时间:2026年3月5日操作系统:macOS Tahoe 26 2 (Apple M4 芯片)安装目标:OpenClaw v2026 3 2最终状态:✅ 安装成功 一、问题概述:macOS 安装 OpenClaw

时间:2026-04-01 22:24
手把手带你搭建自己的 OpenClaw

手把手带你搭建自己的 OpenClaw

想要亲自动手部署属于自己的OpenClaw智能助手吗?在明天的专场直播中,我们将带来一场全程“手把手”的实战教学,带你一步步完成OpenClaw的本地部署,让它快速在你的环境中运行起来。 本次直播不讨论抽象概念,全程紧扣三个关键实施阶段: 第一阶段,我们将详细拆解完整的OpenClaw本地安装与配置

时间:2026-04-01 22:16
OpenClaw技能开发

OpenClaw技能开发

在 OpenClaw 的 AI 生态系统中,要使人工智能从“思考分析”转变为“实际操作”,技能(Skill)扮演着至关重要的桥梁角色。简而言之,技能是 AI 执行特定任务的模块化能力单元。这些模块主要来源于两大渠道:一是生态内可直接安装使用的成熟社区技能,二是用户根据个性化需求,自行开发的定制化技能

时间:2026-04-01 22:15
热门专题
更多
刀塔传奇破解版无限钻石下载大全 刀塔传奇破解版无限钻石下载大全
洛克王国正式正版手游下载安装大全 洛克王国正式正版手游下载安装大全
思美人手游下载专区 思美人手游下载专区
好玩的阿拉德之怒游戏下载合集 好玩的阿拉德之怒游戏下载合集
不思议迷宫手游下载合集 不思议迷宫手游下载合集
百宝袋汉化组游戏最新合集 百宝袋汉化组游戏最新合集
jsk游戏合集30款游戏大全 jsk游戏合集30款游戏大全
宾果消消消原版下载大全 宾果消消消原版下载大全
  • 日榜
  • 周榜
  • 月榜
热门教程
更多
  • 游戏攻略
  • 安卓教程
  • 苹果教程
  • 电脑教程