中科驭数谈DPU在AI大模型时代的机遇

在2023移动云大会“云擎未来，智信天下”主题下，中科驭数正式加入“移动云信息技术融合应用创新产业生态联合体”，其创始人、CEO鄢贵海在“磐石算力底座”论坛圆桌对话中，深入剖析了DPU在AI大模型时代面临的机遇与挑战。以下教程将为你梳理本次大会的核心议题，帮助理解DPU如何支撑未来算力基础设施。

一、移动云大会与“移动云信息技术融合应用创新产业生态联合体”

1. 大会背景

2023移动云大会以“云擎未来，智信天下”为主题，汇聚了算力产业链上下游企业。中国移动副总经理赵大春在“磐石算力底座论坛”致辞中强调，算力是数字经济发展的基础，未来算力将像水、电一样随取随用。

2. “联合体”正式发布

由工信部推动的“移动云信息技术融合应用创新产业生态联合体”（简称“联合体”）在大会期间正式发布。其目标是携手移动产业链上下游企业、高校、科研院所，开展适配验证、标准研究、技术培训、解决方案孵化、创新成果推广和人才教育培训等关键合作。

3. 中科驭数正式加入

作为国内DPU领军企业，中科驭数正式加入联合体，将与各成员单位凝聚合力，推动信息技术应用创新解决方案和产业项目落地，共同构建开放包容、合作共赢的产业生态。

二、DPU在AI大模型时代的机遇与挑战

1. DPU将成为高性能计算和人工智能的基石

在圆桌对话中，中科驭数创始人、CEO鄢贵海指出：ChatGPT将为底层芯片或算力基础设施厂商带来巨大机会，DPU有望成为支撑高性能计算和人工智能的基石。DPU具备低时延、高吞吐、强大网络功能，将促进下一代高性能计算实现规模化和分布式化，成为未来大型算力基础设施的核心组件。

2. 解决大算力问题的两个层次

• 第一层：提高单颗芯片性能 —— 业界已提出多种方法论。
• 第二层：打通基础设施，连接局部算力 —— 解决网络端瓶颈，满足万亿级参数大模型的算力需求。这是当前难点，也是DPU备受关注的原因。

3. DPU在大语言模型中的关键角色

DPU作为数据专用处理器，主要承担网络、存储、计算和安全等基础设施层应用服务，是提升算力服务、提高计算、网络和存储服务的关键。尤其在大型语言模型中，DPU在数据交换和通信方面扮演着重要角色。

三、中国移动的算力基础设施布局

1. 未来算力发展的三大特点（赵大春致辞）

• 算力多样化需求呈指数级增长 —— AI大模型推动异构算力需求爆发。
• 算力泛在化和融合化服务需求日益增强 —— 算力需无处不在、无缝协同。
• 算网内生安全体系亟需构建 —— 安全成为算力基础设施的底层要求。

2. 三大举措打造自主可控算力（刘军卫主题演讲）

• 布局国产化智算生态 —— 推动国产芯片与系统适配。
• 共建自主GPU+DPU产业联盟 —— 联合厂商打磨统一技术体系。
• 联创高性能网络技术 —— 解决大规模分布式训练的网络瓶颈。

目标：到2024年，打通DPU、GPU、HPN三大单元，面向大模型场景打造全栈自主可控系统。

四、常见问题与解答

• 问：什么是DPU？它与CPU、GPU有何不同？
  答：DPU（Data Processing Unit）是数据专用处理器，专门处理网络、存储、安全等基础设施层任务，可释放CPU和GPU的计算压力，实现低时延、高吞吐的数据交换。
• 问：DPU如何在AI大模型中发挥作用？
  答：AI大模型训练需要大量数据在GPU之间高速传输。DPU负责网络通信、数据搬运和存储加速，避免网络成为瓶颈，从而提升整体训练效率。
• 问：中科驭数为何要加入“移动云信息技术融合应用创新产业生态联合体”？
  答：联合体提供了标准研究、适配验证、技术培训等合作平台。作为DPU领军企业，中科驭数可通过中国移动的庞大用户和丰富场景，将DPU技术与国产生态深度融合，共同打造自主可控的算力基础设施。
• 问：中国移动提出的“三大举措”中，DPU具体参与了哪些？
  答：在“共建自主GPU+DPU产业联盟”中，DPU与GPU协同工作；在“联创高性能网络技术”中，DPU负责网卡加速和远程内存访问（RDMA），支撑高性能网络。

五、小提示

• 热点追踪提示词 一键复制

  你是一名 AI 行业编辑，请围绕下面这条热点输出一份资讯解读：
  热点：中科驭数谈DPU在AI大模型时代的机遇要求：
  1. 先用一句话解释这条热点在讲什么
  2. 再总结它为什么重要
  3. 说明会影响哪些 AI 产品或内容方向
  4. 最后给出 3 个适合资讯站使用的标题