阿里清华联合论文入选ICML杰出论文
阿里巴巴与清华大学合作的论文获ICML杰出论文，揭示扩散语言模型“灵活性陷阱”即熵退化现象：任意顺序生成自由度导致推理性能下降，HumanEval上顺序可解而任意顺序不可解的题目占21 3%。提出JustGRPO方法，强制从左到右生成，在GSM8K上准确率达89 1%，全面超越复杂强化学习算法。
7月5日，AI顶会ICML上传来一个消息：阿里巴巴与清华大学合作的论文《灵活性陷阱：重新审视扩散语言模型中任意顺序生成的价值》一举拿下了大会杰出论文（Outstanding Paper）。在ICML上，杰出论文是最高荣誉，通常只颁给2-3篇，获奖率仅占接受论文的千分之一——用「百里挑一」都不足以形容其稀缺。
论文的核心发现很有意思：当模型拥有任意顺序生成的自由度时，看似灵活，实则掉入了「灵活性陷阱」。研究者把这种现象命名为「熵退化」——模型在生成过程中，选择权被悄悄消解了。实证数据很能说明问题：在HumanEval代码生成任务上，从左往右顺序能解出、而任意顺序解不出的题目占21.3%，反过来只有0.6%。顺序越自由，推理性能越差，这个趋势相当明显。
其实背后原因并不复杂。图里展示得很清楚：从左向右的自回归顺序（a）迫使模型在每个逻辑分叉口做出选择；而任意顺序（b）则让模型绕过难点，优先处理容易的部分——结果呢？推理路径被提前锁死，后续只能将错就错。
基于这个发现，研究团队提出的解决方案简单得让人意外——就叫「JustGRPO」。字面意思：在强化学习训练阶段放弃任意顺序，强制模型从左到右生成，直接用GRPO就够了。GRPO是行业里主流的算法，原理是对同一道题生成多组答案，通过组内优劣对比来优化策略。此前，为扩散语言模型（dLLM）设计强化学习算法面临一堆工程难题，比如生成顺序不固定导致无法准确归因每个词的贡献，各家团队不得不引入各种复杂手段。而JustGRPO走的是一条「大道至简」的路——好比所有人都在给左手练力量，有人说：为什么不直接用右手？
效果如何？训练完成后，模型推理速度不受影响，推理能力反而大幅提升。在GSM8K（业界衡量大模型推理能力的标准测试集，约8500道多步推理小学数学应用题）上，准确率达到89.1%，全面超越了d1、ESPO、SPG、GDPO等所有专门为扩散模型设计的复杂强化学习算法。
（附：论文下载地址 https://arxiv.org/abs/2601.15165）
你是一名 AI 行业编辑，请围绕下面这条热点输出一份资讯解读：
热点：阿里清华联合论文入选ICML杰出论文要求：
1. 先用一句话解释这条热点在讲什么
2. 再总结它为什么重要
3. 说明会影响哪些 AI 产品或内容方向
4. 最后给出 3 个适合资讯站使用的标题
游乐网为非赢利性网站，所展示的游戏/软件/文章内容均来自于互联网或第三方用户上传分享，版权归原作者所有，本站不承担相应法律责任。如您发现有涉嫌抄袭侵权的内容，请联系youleyoucom@outlook.com。
相关热点嵌入式AI面临功耗与编程复杂性挑战。基于低功耗FPGA的方案，如LatticesensAI堆栈（采用ICE40UltraPlus与ECP5）可在1W内实现BNN与CNN推理。神经网络编译器支持从Caffe TensorFlow直接生成比特流，降低编程门槛；SilexaSLX工具自动将C C++代码重构为HLS格式，加速遗留代码迁移，推动AI边缘部署。
最大边际相关性（MMR）算法通过迭代选择最大化边际相关性，在确保与查询高度相关的同时，最大化结果间的差异性，减少信息冗余。参数λ控制相关性与多样性的权重平衡，可优化推荐与检索系统的用户体验与信息覆盖。
汽车正逐渐演变为最前沿的人工智能平台，这一概念或许略显抽象，但回顾我们日常驾驶的车辆便能清晰感知——从语音助手到高级驾驶辅助，AI已全面渗透至设计、工程与用户体验的每一个环节。换言之，如今的汽车早已超越“四个轮子加一个方向盘”的传统定义，进化为一个可不断迭代升级的智能移动空间。 与此同时，消费者的期
BGE-M3模型基于XLM-RoBERTa架构，支持密集、稀疏和多向量三种检索方式，覆盖一百余种语言并能处理长达8192个token的文本，具备多语言、多功能、多粒度特性。通过自知识蒸馏技术提升嵌入质量，可显著提升RAG系统的召回率，效果优异。
- 日榜
- 周榜
- 月榜
热点快看