阿里云大数据AI产品升级迎接MoE与推理模型时代

在2025年AI势能大会上，阿里云正式发布了一系列大数据AI平台的重磅升级，围绕MoE（混合专家模型）架构、推理模型（Reasoning Model）和Agentic RAG等前沿技术趋势，对人工智能平台PAI、智能搜索产品OpenSearch、大数据开发治理平台DataWorks及实时数仓Hologres等多款核心产品进行了全面能力增强。本教程将逐一解读每项新功能的核心特性、适用场景与常见疑问，帮助您快速掌握这些面向未来AI应用场景的强大工具与解决方案。

01 人工智能PAI：全面支持MoE模型强化学习，推出KV Cache Storage与PD分离推理服务

阿里云人工智能平台PAI针对MoE架构的快速发展，在训练与推理两大环节进行了全面升级：

• 训练端：平台搭载了自研的大规模MoE混合精度训练引擎PAI-FlashMoE与高性能强化学习框架PAI-Chatlearn，能够高效支持SFT、PPO、GRPO等多种训练任务的快速配置与执行。在万卡规模的集群环境下，MoE架构训练的MFU（模型浮点利用率）可达35%-40%，显著提升了训练效率与运行稳定性。
• 推理端：模型在线服务平台PAI-EAS引入了负载感知的PD分离架构，并深度融合MoE分布式推理调度引擎Llumnix。该方案使得首Token生成响应时间降低了92%，端到端服务吞吐能力提升了91%。
• 缓存优化：PAI-EAS全新推出了高性能KV Cache缓存服务。在千万级活跃用户的业务场景下，KV Cache的命中率可提升10倍以上，依托3FS存储系统带来了吞吐量的大幅增长。
• 新增能力：平台发布了模型权重服务，极大缩短了模型冷启动加载及扩容加载的时间；PAI-BladeLLM推出了混合精度量化能力，能够在校准过程中逐层选择最优的精度算法策略，并在推理时动态决策最佳计算模式，实现了精度与速度的完美平衡。

小提示：使用PAI-FlashMoE进行MoE模型训练时，建议优先通过PAI-Chatlearn配置好强化学习任务（PPO或GRPO），并结合SFT微调，这样可以最大化利用万卡集群的并行计算效率。在推理场景中，请优先开启KV Cache Storage服务，它能显著降低高并发场景下的响应延迟。

常见问题

• Q：训练MoE模型是否需要特殊的硬件支持？
  A：PAI平台全面兼容主流通用GPU（如NVIDIA A100/H100），通过PAI-FlashMoE引擎自动优化通信与计算逻辑，无需额外购置专用硬件设备。
• Q：PD分离架构对现有的推理服务有何影响？
  A：PD分离将预填充（Prefill）和解码（Decode）阶段进行了解耦，允许独立扩缩容，有效减少了资源碎片。现有模型仅需简单配置即可完成迁移，PAI-EAS提供了一键部署模板，方便快速上手。

02 OpenSearch AI搜索：基于推理模型与Agentic RAG构建智能检索

OpenSearch推出了全新的Agentic AI搜索功能，通过集成自主规划、搜索、澄清、总结等多种智能体（Agent），能够对接多种异构知识库与业务系统，实现对复杂内容的深度检索与分析。具体效果如下：

• 搜索召回率提升13%
• AI生成内容幻觉率降低42%

该架构基于推理模型进行多步规划，并结合RAG（检索增强生成）技术。当用户提出模糊或复杂问题时，Agent能够主动拆解为多个子问题、动态调整检索策略，并最终综合多源信息生成精准答案。

小提示：在配置OpenSearch Agentic AI搜索时，建议先明确定义知识库的Schema及权限设置，以便Agent能够自动索引多源数据（如数据库、文档、API）。通过调整规划步骤数（planning steps），可以有效平衡搜索深度与响应时间。

常见问题

• Q：Agentic RAG与传统RAG的核心区别在哪里？
  A：传统RAG仅执行单次检索并直接生成答案，而Agentic RAG能够根据中间结果进行反复规划与重新检索，模拟人类的多轮思考过程，从而有效处理复杂、跨领域的查询需求。
• Q：幻觉率降低42%是如何实现的？
  A：Agent在生成最终答案前会进行事实核查，通过检索多个知识源进行交叉验证，并利用推理模型的自省能力对回答进行修正，从而大幅减少无事实依据的内容输出。

03 从Copilot到AI Agent演进：阿里云大数据AI平台全面拥抱MCP协议

基于MCP（模型上下文协议），阿里云宣布其大数据开发治理平台DataWorks和实时数仓Hologres正式发布MCP Server，并推出DataWorks Agent服务，标志着大数据工作模式从AI辅助（Copilot）迈入AI Agent自主执行的全新时代。

• Hologres MCP Server：该服务已被MCP官方仓库收录，支持通过大模型直接查询Hologres中的元数据（如Schema、表结构）、执行SQL语句、查看query log等。它可以与众多支持MCP协议的平台实现联动，有效解决大模型在数据预处理、可视化解读和科学推理等环节面临的难题。
• DataWorks Agent：用户只需通过自然语言交互，即可让Agent自动化完成数据集成、数据开发、任务运维等一系列复杂操作。
• 其他产品适配：阿里云Elasticsearch、向量检索服务Milvus版也已实现对开源社区MCP Server的全面适配。

小提示：使用Hologres MCP Server时，建议先在MCP配置中明确指定允许访问的数据库Schema范围，以防止大模型出现越权操作。DataWorks Agent当前支持的任务类型，可查阅官方文档了解详情；自定义Agent流程则可以通过可视化编辑器进行灵活调整。

常见问题

• Q：MCP Server与普通API有何本质区别？
  A：MCP Server遵循统一协议，让大模型可以像调用“工具集”一样自然地使用多个后端服务，无需为每个API单独编写提示词，极大简化了集成流程。
• Q：DataWorks Agent目前支持哪些自然语言指令？
  A：目前已支持包括建表、数据同步、调度配置、实例运维等在内的常见操作，具体指令集可通过“DataWorks Agent技能包”进行查看，社区版本也在持续更新中。

04 迈向智能化：阿里云大数据平台的下一代演进方向

阿里云指出，大数据平台正经历从“一站式”向“智能化”的关键跨越。在本次大会上，MaxCompute for AI功能迎来了重磅升级：

• MaxFrame：该功能全面支持大模型数据预处理，覆盖文本、多模态等多种数据类型，极大提升了Data for AI场景的数据处理效率。同时，新推出的AI Function功能，允许用户通过简单的编程接口，直接对表中的海量数据调用大模型进行离线处理，从而简化流程并显著提升输出结果的质量。
• DataWorks平台：采用Data+AI双轮驱动模式，提供了SQL生成、测试与优化等一系列智能化功能，帮助企业更高效地进行数据分析与辅助决策。值得一提的是，DataWorks与Hologres已全面拥抱MCP协议，成功实现了从AI辅助工作向AI Agent自主思考并执行任务的重要转变。

小提示：使用MaxFrame的AI Function时，建议先在小规模数据集上测试函数效果，确认无误后再应用到海量数据表中。DataWorks的SQL生成功能，建议结合业务词典一起使用，可以获得更准确、更贴近业务逻辑的代码输出。

常见问题

• Q：MaxFrame的AI Function支持哪些具体的大模型？
  A：目前原生支持阿里云通义系列模型（如Qwen2.5），同时也可以通过自定义模型配置接入第三方开源模型。
• Q：在Data+AI模式下，数据安全如何得到保障？
  A：所有AI处理过程均在MaxCompute内部完成，确保数据不出域；DataWorks提供了细粒度的权限管控以及完善的审计日志，保证AI Agent的每一个操作都可追溯、可审计。

综合以上四大核心模块的升级，阿里云正在系统性地构建一个从模型训练、推理服务到数据治理与智能搜索的全链路、智能化AI基础设施。无论您是需要应对MoE与推理模型带来的新型计算挑战，还是希望借助MCP协议让AI Agent自主处理复杂业务任务，这些创新功能都将为企业与开发者提供更高效、更稳定、更值得信赖的技术底座。

你是一名 AI 行业编辑，请围绕下面这条热点输出一份资讯解读：
热点：阿里云大数据AI产品升级迎接MoE与推理模型时代要求：
1. 先用一句话解释这条热点在讲什么
2. 再总结它为什么重要
3. 说明会影响哪些 AI 产品或内容方向
4. 最后给出 3 个适合资讯站使用的标题