智谱清华联合推出ZCube架构 大模型推理吞吐提升15% 网络成本降三分之一

大模型推理的浪潮正全面推动AI基础设施栈的革新。其中，网络架构的创新已成为释放昂贵硬件算力、提升系统整体经济性的核心路径。近期，一项由智谱AI、驭驯网络与清华大学合作的研究，实现了从理论到生产应用的重要突破。

2025年9月，其关于ZCube网络架构的研究成果已在网络领域顶级会议ACM SIGCOMM 2025上发表。更值得关注的是，2026年5月21日，智谱AI宣布该架构已在GLM-5.1coding的生产环境中成功部署，并实现了显著的性能优化。

基准测试结果令人瞩目：在保持GPU硬件、软件栈及上层应用完全不变的前提下，仅通过网络架构的革新，就实现了交换机与光模块的资本支出降低33%，GPU平均推理吞吐量提升15%，首Token时延（TTFT P99）更是大幅降低了40.6%。这无疑是一次兼顾高经济性与高性能的系统级突破，为大模型推理效率提升提供了关键解决方案。

传统架构的痛点与ZCube的破局思路

传统网络架构的瓶颈究竟在哪里？大规模GPU集群通常采用Clos或Fat-Tree等层次化架构，数据包需要经过接入层和汇聚层的多跳转发。随着集群规模扩大，不仅网络设备成本线性增长，跨汇聚层的流量拥塞和路径非最优问题也日益突出，直接制约了GPU间的通信效率，成为大模型训练与推理的性能瓶颈。

ZCube架构的破局之道，在于其根本性的设计哲学转变。它彻底摒弃了传统Clos架构的层次化堆叠思路，取消了汇聚层交换机，转而采用一种完全扁平化的两组交换机进行二部图互联。这种设计，结合双端口网卡的单轨与多轨混合接入机制，以及专门优化的路由算法，确保了任意两个GPU之间都拥有一条独享且最优的通信路径。

这意味着，从网络结构层面就天然实现了流量的完美负载均衡，避免了热点拥塞。更重要的是，这种架构具备极佳的扩展性，能够轻松支持数万乃至数十万张GPU的超大规模互联，为未来AI算力集群的持续扩展铺平了道路，是构建高效能AI计算网络的关键技术。

从论文到生产：平稳落地的挑战与实现

然而，任何创新的网络架构从论文走向大规模生产环境，都面临巨大挑战。布线复杂度的指数级增长、路由策略的重构、以及升级过程中如何保证业务零中断，都是必须解决的难题。

在这次生产环境改造中，驭驯网络团队发挥了关键作用。他们利用自研的自动化控制与校验工具，成功克服了高密度布线和管理复杂性的挑战，高效完成了路由策略的重构与部署，最终保障了千卡集群的快速且平稳升级。目前，基于ZCube架构的集群已稳定运行超过两周，充分验证了其可靠性与成熟度，为大模型推理服务提供了稳定的网络基础。

ZCube的成功落地，标志着一个清晰的趋势：智算基础设施正从追求通用互联，走向以模型流量特征为核心的、系统级的协同设计。未来，网络拓扑、通信库、作业调度策略三者的深度耦合与联合优化，将成为进一步提升Token生产效率、降低MaaS（模型即服务）综合运营成本的核心驱动力。这场由上层AI应用驱动的底层基础设施革命，才刚刚拉开序幕。