EdgeBench衡量真实世界环境学习发现新缩放定律
过去几年,预训练规模定律(Scaling Law)几乎成为行业共识——模型能力随着数据量和算力的增长,以相对可预见的方式持续提升。然而,当大模型真正步入真实世界应用场景后,一个更贴近实际的问题浮出水面:它能否在与环境的持续交互中继续学习,并不断增强自身能力? 近日,EdgeBench正式发布——这是
过去几年,预训练规模定律(Scaling Law)几乎成为行业共识——模型能力随着数据量和算力的增长,以相对可预见的方式持续提升。然而,当大模型真正步入真实世界应用场景后,一个更贴近实际的问题浮出水面:它能否在与环境的持续交互中继续学习,并不断增强自身能力?
近日,EdgeBench正式发布——这是一套专注于衡量真实世界环境学习的超长程评测基准。该评测集包含134个真实且多样化的任务,横跨六大能力领域,每个任务都支持Agent持续工作至少12小时。
基于这些任务的长程环境交互运行结果,我们发现Agent在“环境学习”过程中的整体表现遵循一条高精度的log-sigmoid曲线,平均拟合优度(R²)达到0.998。同时,不同代际前沿模型的对比显示,Agent的学习速度大致呈现每三个月翻一番的趋势。
目前,EdgeBench已开源其中51个任务及完整评测框架,供社区深入研究Agent如何从真实世界环境中学习与进化。
1. 衡量真实世界环境学习的超长程评测基准
真实世界中模型的表现,不仅仅取决于它在训练阶段学到的内容。许多关键知识并未直接存在于训练语料中,真实工作所依赖的也不仅是现成信息,还包括反复试错、解读反馈以及持续修正的过程。
与此同时,现实环境本身始终处于动态变化之中——新工具、新问题和新知识不断涌现,这意味着任何静态的训练数据都无法提前覆盖所有可能性。因此,Agent从环境中学习并持续提升任务表现的能力,正变得日益重要。
当前大多数模型评测基准,主要衡量模型已有的知识和能力。而EdgeBench更关注的是,当Agent拥有充足时间、反馈信号和改进空间时,它如何从真实世界环境中汲取经验并持续进步。EdgeBench在任务设计上具备以下显著特点:
面向环境学习:每个工作区、反馈信号和评分器都贴近真实实践,分数直接体现Agent在环境中的学习与改进效果。
超长时程:每个任务支持12小时以上的连续运行,部分延长实验超过72小时——经验正是通过这样的长期积累逐步形成的。从已记录人工投入的任务来看,人类专家完成单个任务平均耗时57.2小时,最高达到320小时。
覆盖六大领域:134个任务涵盖科学、复杂软件工程、白领知识工作、算法优化、前沿数学和数字游戏,并由领域专家结合真实问题持续迭代,其中超过90%的任务为全新构建。
EdgeBench的任务分类概览
2. 发现环境学习中的规模定律(Scaling Law)
在EdgeBench中,Agent并非一次性提交结果后结束,而是不断与任务环境进行交互,并接收评分、错误信息以及改进线索等反馈。正因如此,曲线反映的并非Agent一次性完成任务的能力,而是其在持续交互中吸收反馈、调整策略并逐步优化结果的能力。
基于Agent在134个真实世界任务中累计约38000小时的环境交互记录,可以清晰看到:Agent的表现并非静态固定,而是能够在与环境持续交互的过程中不断学习、持续提升。
但从整体来看,Agent在环境学习中的成长轨迹并不单一。除了最终表现的差异外,它们在学习、吸收反馈和持续改进的过程中也展现出明显不同的路径——有些稳步提升,有些前期快速进步后进入平台期,也有一些在长时间停滞后才迎来突破性进展。
Agent在三个任务中12小时内的学习曲线,从左到右分别为稳步提升、前期快速进步、后期突破三种典型模式
以引力波任务中的一次12小时运行为例,GPT-5.5在247次评分尝试中将分数从42.8提升到67.0。这一案例表明,环境学习并非简单的连续调优:分数的关键跃升往往源自Agent根据反馈重新定义、拆解并组织问题的方式转变。
Agent首先让任务可衡量,接着拆解失败环节、定位瓶颈,最后保留可用核心,只修补剩余错误
如果将视角从单个任务扩展到跨任务的整体表现,就会发现这种学习并非无序波动,而是呈现出高度稳定的整体规律。
每个模型都覆盖了134个任务,且每个任务经过3次独立运行,因此每个模型产生402条学习曲线。单独观察某一条任务轨迹时,Agent在环境中的表现常充满噪声与波动。但当这些轨迹按交互时间进行聚合平均后,整体收敛为一条形式简洁且高精度的log-sigmoid曲线:
这一函数形式不仅能够稳定拟合不同模型的平均学习轨迹,而且拟合精度极高,平均R²=0.998。这并非单纯的经验拟合现象,还可以从图探索(graph exploration)理论的视角进行解释。
从134个任务的平均结果来看,随着与环境交互时间的增加,Agent整体表现持续提升,详细分析可参阅论文原文
此外,我们还尝试回答另一个关键问题:模型从环境中学习的速度是否会随着代际演进而变化?
为尽量弱化模型先验知识与基础能力差异带来的干扰,我们选取了18个初始表现相近的任务,并对自2025年9月至2026年5月陆续发布的多代模型进行2小时评测,再通过这段时间内的性能提升幅度来刻画其“学习速度”。结果显示,随着模型代际演进,模型从环境中学习的速度显著加快,对于当时表现最领先的模型而言,这一速度接近每三个月翻一番。
不同版本大模型的学习速度变化趋势
3. 写在最后
随着模型从环境中学习的速度不断提升,未来模型之间的差异可能不仅体现在初始能力上,也将越来越体现在进入环境之后的学习速度上。对反馈的理解能力、经验积累能力以及策略调整能力,将日益成为模型在长时程、开放式任务中建立持续优势的关键因素。
EdgeBench的目标正是为这类探索提供一块坚实的基石——为相关研究和应用实践提供一个可衡量的起点。我们也期待未来有更多工作关注模型在开放环境中的学习、适应与改进。与此同时,我们将继续理解和研究那些在真实环境中持续创造价值的能力,以及未来决定AI上限的关键能力,不断探索未知的智能边界。
你是一名 AI 行业编辑,请围绕下面这条热点输出一份资讯解读:
热点:EdgeBench衡量真实世界环境学习发现新缩放定律要求:
1. 先用一句话解释这条热点在讲什么
2. 再总结它为什么重要
3. 说明会影响哪些 AI 产品或内容方向
4. 最后给出 3 个适合资讯站使用的标题
游乐网为非赢利性网站,所展示的游戏/软件/文章内容均来自于互联网或第三方用户上传分享,版权归原作者所有,本站不承担相应法律责任。如您发现有涉嫌抄袭侵权的内容,请联系youleyoucom@outlook.com。
相关热点重排器是RAG系统的关键组件,负责对初步检索结果进行二次筛选和排序,显著提升信息检索精准度。它能减少幻觉现象、节省成本并弥补嵌入向量局限性。主要类型包括交叉编码器、多向量重排器、微调LLM重排器及基于LLM推理的裁判方法。
让我们从核方法与深度神经网络这两个主题切入。在当今机器学习领域,这两种技术均占据重要地位,且近年来不断涌现的理论研究正逐步揭示出两者之间的深层关联。 当前学术界对神经网络的理解存在多种视角,包括决策边界、特征表示、将网络视为核函数,以及利用微分方程建模。在核方法这一研究路径上,一项关键的理论成果是:
谷歌刚刚发布了一款重磅产品——Firebase Studio。这款工具,简单来说,就是将完整的开发环境搬进了浏览器,而且全程无需任何配置。先给你看张图,感受一下这个界面。 还记得第一次打开VS Code时那种“哇,世界变了”的感觉吗?这周我又有了类似的体验——只不过,这次所有操作都在浏览器里完成。谷
构建机器学习模型时应避免:未使用数据归一化导致权重失衡;特征过多引发过拟合;用树模型处理外推任务导致预测受限;滥用归一化破坏树模型性能;训练与测试集间数据泄漏造成虚高分数。正确做法包括按需归一化、特征选择、选用合适模型并严格分离数据。
- 日榜
- 周榜
- 月榜
热点快看
