挑战主流认知！蚂蚁、人大发布行业首个原生MoE扩散语言模型 将于近期开源
9月12日消息，9月11日，在2025Inclusion·外滩大会上，蚂蚁集团与中国人民大学联合发布业界首个原生MoE架构的扩散语言模型（dLLM）“LLaDA-MoE”。
免费影视、动漫、音乐、游戏、小说资源长期稳定更新！ 👉 点此立即查看 👈
中国人民大学高瓴人工智能学院副教授李崇轩，蚂蚁集团通用人工智能研究中心主任、西湖大学特聘研究员、西湖心辰创始人蓝振忠参与了发布仪式。
据介绍，这款新模型通过非自回归的掩码扩散机制，首次通过原生训练的MoE在大规模语言模型中实现了与Qwen2.5相当的语言智能（如上下文学习、指令遵循、代码和数学推理等），挑战了“语言模型必须自回归”的主流认知。
实现数据显示，LLaDA-MoE模型性能效果在代码、数学、Agent等任务上领先于LLaDA1.0/1.5和Dream-7B等扩散语言模型，接近或超越了自回归模型 Qwen2.5-3B-Instruct，仅激活 1.4B 参数即可实现等效3B稠密模型的性能。
值得一提的是，据蓝振忠介绍，除模型权重外，蚂蚁还将同步开源针对 dLLM 并行特性深度优化的推理引擎。
相比 NVIDIA 最新 fast-dLLM，该引擎实现了显著加速。相关代码与技术报告将于近期在 GitHub 及 Hugging Face 社区同步发布。
据介绍，蚂蚁集团和人民大学联合研发原生MoE架构扩散语言模型（dLLM) LLaDA-MoE，在约20T数据上完成了从零训练MoE架构的扩散语言模型，验证了工业级大规模训练的扩展性和稳定性；
效果超过此前发布稠密扩散语言模型LLaDA1.0/1.5和Dream-7B，比肩等效自回归模型，并保有数倍的推理速度优势。
模型将在近期完全开源，以推动全球AI社区在dLLM上的技术发展。
游乐网为非赢利性网站，所展示的游戏/软件/文章内容均来自于互联网或第三方用户上传分享，版权归原作者所有，本站不承担相应法律责任。如您发现有涉嫌抄袭侵权的内容，请联系youleyoucom@outlook.com。
同类文章
vivo 推出 Y500s 手机：骁龙 4 Gen 2、可选 8/12GB RAM，1799 元起
vivo Y500s 震撼登场：7200mAh 超长续航与 IP69 顶级防护，仅售 1799 元起 vivo 官方商城近日正式上线新款手机——vivo Y500s。这款新品定位清晰，并非追求极限性能，而是将核心优势聚焦于史诗级续航能力和卓越的耐用品质。其主打亮点直接指向了 7200mAh 巨无霸电
288Hz 高刷 1699 元起，小米 REDMI 电视 A Pro 2026 款预售开启
REDMI 电视 A Pro 2026 系列预售开启：288Hz超高刷新率与大存储引领性价比革命 近日，电视市场迎来新一轮技术下放风潮。备受关注的Redmi 电视A Pro 2026系列正式启动新品预售，此举旨在将高端流畅的视听体验带入主流消费区间。本次迭代的核心升级极为突出：业界领先的288Hz超
海信公布世界杯超级权益，猜中冠军最高可享3000元现金红包
世界杯营销全面布局：海信如何打出四张“王牌”赢得全球用户 2026年世界杯正式进入百日倒计时。对于已连续七届赞助世界顶级足球赛事的海信来说，这不仅是一次品牌实力的全球展示，更是一场围绕用户体验展开的深度战役。近日，海信集团中国区总裁尹志新在营销战略发布会上，系统阐述了以“超级体验、超级权益、超级服务
续航断层优势 一加15T首发7500mAh冰川电池
一加15T全球首发7500mAh冰川电池，重新定义小屏旗舰续航标杆 近日，一加中国区总裁李杰Louis向外界透露了一个重磅消息：即将发布的小屏旗舰一加15T，将率先搭载一块容量高达7500mAh的超大容量冰川电池。这一突破性进展，预示着长期制约小屏手机的续航瓶颈，有望被彻底解决，为追求便携手感的用户
联想推出 IdeaPad Slim 5x (11) 轻薄本，搭载高通骁龙 X2P-42-100
联想IdeaPad Slim 5x (11)轻薄本发布：首发高通骁龙X2P-42-100处理器 联想近日通过其官方网站PSREF产品规格库，正式公布了IdeaPad Slim 5x (11)系列新款轻薄笔记本的详细信息。该系列最大的亮点在于全球首发了高通骁龙X2P-42-100处理器，并同步推出了1
- 日榜
- 周榜
- 月榜
相关攻略
2015-03-10 11:25
2015-03-10 11:05
2021-08-04 13:30
2015-03-10 11:22
2015-03-10 12:39
2022-05-16 18:57
2025-05-23 13:43
2025-05-23 14:01
热门教程
- 游戏攻略
- 安卓教程
- 苹果教程
- 电脑教程
