Deepseek-R1等AI模型实测：GB200 NVL72较HGX H200性能飙升10倍

12月4日，科技媒体Wccftech最新报道披露，英伟达的GB200 NVL72 AI服务器在"混合专家"模型架构上实现了重大性能突破。

免费影视、动漫、音乐、游戏、小说资源长期稳定更新！ 👉 点此立即查看 👈

基于开源大语言模型Kimi K2 Thinking、Deepseek-R1-0528和Mistral Large 3的测试结果显示，新一代系统较上一代Hopper HGX 200在混合专家模型推理性能上提升了十倍之多。

注：混合专家模型（MoE）是一种高效的大型AI模型架构。传统模型在处理每项任务时需要动用全部"脑力"（参数），而MoE则类似于专家团队协作，根据任务类型仅激活最相关的一小部分"专家"（参数子集）来解决问题。这种机制能显著降低计算成本，同时提升处理速度。

英伟达为解决MoE模型扩展时遇到的性能瓶颈，采用了"协同设计"策略，该方法整合了GB200的72芯片配置、高达30TB的快速共享内存、第二代Transformer引擎以及第五代NVLink高速互联技术。

通过这些技术的协同工作，系统能够高效地将token批次拆分并分配到各个GPU，同时以非线性速率提升通信量，从而将专家并行计算能力提升至全新水平，最终实现了性能的巨大飞跃。

除了硬件层面的协同设计，英伟达还实施了多项全栈优化措施来提升MoE模型的推理性能。例如，NVIDIA Dynamo框架通过将预填充和解码任务分配给不同的GPU，实现了任务的解耦服务，允许解码阶段以大规模专家并行方式运行。

同时，系统还采用了NVFP4格式，这种数据格式在保持计算精度的同时，进一步提升了性能和效率，确保了整个AI计算流程的高效稳定。

该媒体指出，此次GB200 NVL72取得的性能突破，对英伟达及其合作伙伴具有重要意义。这一进展成功克服了MoE模型在扩展时面临的计算瓶颈，从而能够满足日益增长的AI算力需求，并巩固了英伟达在AI服务器市场的领先地位。