AI网络互联市场潜力深度解读

AI网络多层次的互联彰显市场潜力

NVIDIA市值突破万亿元，背后除了强大的GPU产品线，互联技术是不可或缺的支柱。2019年NVIDIA收购Mellanox这一操作，才真正把互联技术的潜力彻底释放了出来。通过高性能的单个GPU加速卡，NVLink和NVSwitch构建起Scale-up护城河，再加上后端网络Scale-out所需的ConnectX系列智能网卡等全栈AI网络互联产品，一个完整的AI工厂就这样成型了。数据很能说明问题：2023年NVIDIA在Networking领域的销售额达到了130亿美金。

（来源：整理自NVIDIA）

01

网间互联：高速以太网的新纪元

根据Spirent HSE Market Impact Report的最新数据，高速以太网市场正经历一轮深刻的变革。端口速度在持续演进，各速度级别的采纳率都保持强劲——即便10G和25G这样的“老将”，在中小企业部署和5G基站中依然有稳定需求。但真正值得关注的，是超越传统需求曲线的变化：基于51.2T的交换机Serdes已经铺开，AI网络Scale-out从RDMA RoCE2向UEC（超以太联盟）规范演进的趋势已经非常明朗。市场甚至已经开始提前眺望1.6T以太网，希望明年就能抢占AI驱动的市场先机。

1.6T以太网

数据中心流量的指数级增长预期，正在推动1.6T以太网的研发进程。虽然IEEE 802.3dj标准预计要到2026年才能完成，但2024年已经明确的基础功能，足以支撑硅芯片、光学元件和光模块的早期开发。

面向AI和HPC的以太网

AI和高性能计算（HPC）的需求持续走高，基于融合以太网的远程直接内存访问RDMA（RoCEv2），预计将逐步演进到新的超以太网传输（UET）标准（它隶属于UEC）。

800G

最初的部署将由全球主要云厂商引领，用于支持数据中心内的AI应用，同时伴随51.2Tbps交换机的落地。800G提供了更高的带宽、更低的延迟、更好的能效以及更多的连接，为数据中心的互联提供了未来几年的保障。

以太网逐步替代Infiniband

在Scale-out层面，过去AI训练的高速网络主要依赖InfiniBand的RDMA。但现在，越来越多的目光转向了开放标准、广泛部署的以太网。相比InfiniBand，以太网不仅降低了成本和复杂度，而且没有可扩展性的天花板。

智能网卡和以太网交换机的前景可期

Dell'Oro的预测相当有分量：到2028年，部署在AI后端网络中的以太网交换机端口出货量将超过5000万台。到2025年，AI后端网络中一半的以太网交换机端口将是800Gb/s，到2028年则将跃升至1600Gb/s。其Ethernet Adapter and Smart NIC 5-Year July 2024 Forecast Report进一步指出，以太网智能网卡市场到2028年有望超过160亿美元。这个大幅提升的市场预期，主要源于AI服务器集群Scale-out的后端网络对以太网连接的强烈需求。Dell'Oro集团高级研究总监Baron Fung的判断很有力：“AGI应用的出现，推动了加速服务器与后端以太网网络互联的需求，这对大型语言模型的训练来说是必然一步。对以太网网卡而言，这是一个全新的市场机会，与传统的前端以太网适配器市场相比，增长显著更高。”整个以太网智能NIC市场（包括前端和后端网络的服务器连接），预计到2028年将以27%的复合年增长率持续扩张。后端网络的服务器访问速度将至少比前端网络领先一代，才能跟得上GPU翻跟斗密集路线图的发布节奏。

智能网卡Chiplet芯粒化提上日程

（来源：Broadcom）

Broadcom在今年上半年推出了面向AI网络的400G智能网卡，并公布了基于以太网的SmartNIC Roadmap。随着800G的步伐加快，Broadcom预计在2025-2026年间推出下一代带宽为800G、基于Chiplet架构的网卡芯片。采用Chiplet技术的超高带宽智能网卡，正在成为推动下一代网卡技术发展的新动力。下一代产品将全面支持超级以太网联盟（UEC）的NIC标准。

02

片间互联：加速卡需求旺盛，国产GPU潜力突围

全球GPU加速卡需求剧增

大模型规模持续扩大，带来了庞大的训练基础设施需求，也显著拉动了数据中心AI芯片市场。未来，更多十万卡级别的翻跟斗集群将会进入我们的视野。举例来说，xAI最近建立了一个拥有10万个NVIDIA H100的液冷数据中心，而Meta报告称其已购买了50万个GPU，数量翻番后直奔100万个。

（来源：OCP Global Summit 2024）

Scale-up网络的演进趋势已经超出了单个服务器机架的范围。在今年的OCP Summit上，出现了新定义：Scale-up Internal和Scale-up External两个部分共同构成Scale-up网络。Internal部分指的是以单个机架为节点的GPU数量，从过去传统的8卡演进到百卡甚至几百卡（小于1000卡）；External部分则突破了单个服务器机架的限制，也就是超节点所构建的超带宽域节点数，预计2026年后，节点间的加速卡数量将突破1000卡。

根据Tech Insight机构发布的报告，数据中心AI芯片/翻跟斗市场持续主导全球半导体市场。这个市场将以37%的复合年增长率，到2029年达到3550亿美元。其中，生成式AI应用是芯片的最大驱动力，到2029年预计有望达到2500亿美元。GPU在整个细分市场中占据主导地位，2023年总收入达到370亿美元，而且这一趋势丝毫没有放缓的迹象。在过去五年中，AI翻跟斗的平均售价（ASP）增长了四倍。目前市售的NVIDIA H100，零售价格可能高达4万美元，而两代前的V100价格是1万美元。这样的价格上涨在半导体市场上是前所未有的。随着越来越多的AI应用进入生产状态，可以预见，市场的关注焦点将逐渐从性能转向定价。长期来看，这种溢价和垄断的市场态势，必然需要被打破。

国产GPU市场份额逐步提升

国际数据公司（IDC）发布了最新的《中国半年度加速计算市场（2024上半年）跟踪》报告。数据显示，2024上半年中国加速服务器市场规模达到50亿美元，同比增长63%。其中GPU服务器依然占主导地位，达到43亿美元。同时，NPU、ASIC和FPGA等非GPU加速服务器以同比182%的增速，达到了近7亿美元的市场规模。

行业大模型的深入研发，对AI软硬件与生态部署有明显的带动作用。人工智能在智慧城市、智能家居等综合性复杂场景，以及金融、医疗、教育等行业的细分功能层面，正提供越来越细化、多元的方案。

2024上半年，中国加速芯片的市场规模超过90万张。从技术角度来看，GPU卡占据80%的市场份额；从品牌角度来看，中国本土人工智能芯片品牌的出货量已接近20万张，约占整个市场份额的20%。用于推理的人工智能芯片占据了61%的份额。在GPU加速卡入口受限之后，由于数字化转型大趋势对算力的持续需求，中国本土品牌加速卡的市场份额正在逐步增长。

随着大数据的发展和计算能力的提升，根据寒武纪招股书，2022年中国AI芯片市场规模预计达368亿元，到2024年有望达到785亿元，复合增速可达到46%。宏观来看，全球科技竞争不断加剧，构建自主可控的国产万卡甚至十万卡集群系统，不仅关乎技术主权，更是推动AI产业持续健康发展的关键。其中，生态的构建尤为复杂且至关重要。今年3月，中国工程院院士郑纬民指出，虽然国产AI芯片与业界领先水平仍有差距，但完善的生态能够有效弥补这一短板，确保大多数任务不会因芯片性能的微小差异而受到显著影响。

03

片内互联：Chiplet在服务器的应用迎来黄金期

为了提升单芯片算力，过去的方案主要集中在增加单一芯片上的晶体管数量和扩大芯片面积。但随着先进制程发展接近物理极限，单芯片面积也触碰到机台设计的上限，性能的持续发展受到制约。再加上传统冯·诺依曼计算架构下，芯片算力同时受存储墙、I/O墙的制约，芯片算力利用率并不高。因此，Chiplet芯粒化成为后摩尔时代提升性能的共识。Chiplet技术可以将不同类型的AI加速卡（如神经网络处理器、张量处理器、视觉处理器等）通过高速、低功耗的互联方式进行集成，实现高效的AI计算。这种模块化设计不仅提升了AI芯片的性能，也优化了功耗效率。

在智能计算集群的效能核心中，GPU单卡的计算能力构成了集群整体算力的基石。Chiplet技术作为提升单个AI加速卡快速更新和升级的手段，具有关键意义，能够帮助跟上不断迭代的人工智能算法和应用需求。

（来源：Yole Market Update 2023）

根据国际知名机构Yole发布的Chiplet Market Update 2023，预计到2025年，集成Chiplet的芯片在数据中心服务器市场的比例有望达到87%，而2021年这一比例仅为13%。这意味着未来AI大算力芯片的芯粒化，将是一个势不可挡的主流趋势。

单个芯片的算力和性能高度依赖于Chiplet的设计以及先进封装工艺，这些因素共同推动着单个加速卡算力的提升。

据Yole预测，到2027年，基于Chiplet芯粒的处理器市场将超过1350亿美元。到2032年，芯粒的采用将在消费和汽车市场全面加速，并在国防、航空航天、工业和医疗领域站稳脚跟。

AI基础设施的转型正在引领我们进入一个全新的技术时代。极致的互联技术创新，不仅是推动产业发展的关键，更是决定未来AI网络竞争力的核心因素。从片内互联、片间互联再到网间互联，成就多层次的高性能互联，正是这场技术革命新蓝图的题中之义。