Yuan3.0 Ultra发布：开源千亿参数大模型的多模态能力解析

来源：科技日报

科技日报记者 操秀英

3月4日，YuanLab.ai团队正式开源发布Yuan3.0+Ultra多模态基础大模型。作为Yuan3.0系列面向万亿参数规模打造的旗舰模型，Yuan3.0+Ultra的发布让全球万亿级开源大模型生态进一步丰富，成为当前业界仅有的三个万亿级开源多模态大模型之一。

据研发团队介绍，Yuan3.0+Ultra将MoE（混合专家）大模型的训练效率优化系统性引入模型结构设计之中，并围绕企业应用及智能体工具调用等方面开展了深度优化，在多模态文档理解、检索增强生成（RAG）、表格数据分析、内容摘要与工具调用等企业级任务中表现突出。这些能力使Yuan大模型能够高质量处理企业环境中的复杂信息形态，如图文混排文档、多级结构表格以及跨文档知识检索，为基于OpenClaw等智能体框架构建多模态数据驱动的企业Agent AI提供核心能力支撑。

Yuan3.0+Ultra采用统一多模态模型架构，由视觉编码器、语言主干网络与多模态对齐模块组成，实现视觉与语言信息的协同建模。其中，语言主干网络基于MoE架构构建，包含103层Transformer，Yuan3.0+Ultra的激活参数为68.8B。此外，模型还引入了LFA（局部注意力过滤增强）机制，有效强化了对语义关系的建模能力，相比经典Attention结构可获得更高的模型精度表现。Yuan3.0+Ultra在持续提升模型能力的同时，为大模型发展提供了一条“更高效率、更强智能”的新路径。

企业级Agent通常需要同时处理文档、表格与数据库等多种信息形态，并通过多步骤推理与工具调用完成任务。Yuan3.0+Ultra在设计阶段即围绕企业真实业务流程中的信息处理与任务执行需求进行能力构建。

该模型能够准确解析图文混排文档结构并提取关键数据指标，有力支撑智能体系统高质量完成文档理解、数据提取与报告总结等任务，使企业能够从容构建面向文档处理的Agent系统，例如财报分析、合同审阅以及技术文档解析等场景，从而显著提升信息处理质量。它还可以在企业知识环境中完成检索、理解与综合生成的完整信息处理流程，有力支持OpenClaw等智能体利用企业私有知识完成复杂任务。

（图片由研发团队提供）