NVIDIA AI推理领先优势扩大 首度Arm服务器创佳绩

最新一轮MLPerf基准测试结果出来了，一个明显的信号：NVIDIA在AI推理性能和能效上的统治力，已经不仅限于x86阵地，而是正式跨入了Arm架构的地盘。

根据今天公布的测试数据，无论是搭配x86还是Arm CPU，NVIDIA的GPU加速方案都拿下了AI推理的最佳成绩。这已经是NVIDIA连续第三次在MLCommons推理测试中同时刷新性能和能效纪录了——MLCommons是那个2018年成立的行业基准测试组织，现在已经是业界公认的“裁判”。

值得留意的是，这次测试是头一回在Arm系统上跑数据中心类别的项目。这意味着，企业在部署AI这个当前最具有变革性的技术时，手头的选择又多了一个。

无与伦比的性能

在这轮所有七项推理性能测试中，NVIDIA AI平台驱动的系统都稳居榜首。提交这些系统的可不只是NVIDIA自己，还有九家生态伙伴：阿里巴巴、戴尔科技、富士通、技嘉、慧与、浪潮、联想、宁畅、超微。而且到目前为止，NVIDIA是唯一一家从第一轮到这一轮、每轮MLPerf测试都全项提交并取得结果的公司。

这里简单解释一下推理是什么——就是计算机运行AI软件去识别物体或者做预测，靠的是深度学习模型对数据进行过滤，找出人类肉眼根本看不到的结论。MLPerf推理基准测试覆盖了当前最常用的AI工作负载场景，包括计算机视觉、医学影像、自然语言处理、推荐系统、强化学习等等。换句话说，无论用户想部署哪类AI应用，靠NVIDIA这套方案都能跑出好成绩。

为什么性能十分重要

AI用例正在从数据中心扩展到边缘计算和其他领域，模型和数据集只会越来越大、越来越复杂。这时候，用户需要的不仅仅是一台反赌的主机，更是一套既可靠又能在不同场景灵活部署的性能方案。MLPerf的作用就在于此——让用户有底气做出明智的采购决策。这个组织背后有几十家行业巨头撑腰，包括阿里巴巴、Arm、百度、谷歌、英特尔和NVIDIA，测试过程透明、客观，基本没有水分。

将Arm灵活应用于企业AI

Arm架构正在向全球的数据中心加速渗透，背后靠的是能效比不断攀升，以及越来越丰富的软件生态。最新基准测试说明了一个关键事实：同样基于GPU加速的平台，使用Ampere Altra CPU的Arm服务器，在AI推理工作中的表现和类似配置的x86服务器几乎一模一样。甚至在其中一项测试里，Arm服务器的成绩还反超了同等配置的x86系统。

NVIDIA一直对各类CPU架构都保持开放支持，自然也乐见Arm在同行评审的行业基准中证明了自己的AI能力。Arm高性能计算和工具高级总监Da vid Lecomber表示：“作为MLCommons创始成员，Arm一直致力于通过创建标准和基准来推动加速计算行业的创新。最新推理结果表明，Arm CPU加上NVIDIA GPU的组合，已经能够胜任数据中心里的各种AI工作负载。”

NVIDIA合作伙伴展示其AI性能

NVIDIA AI技术之所以能铺开，靠的是日益庞大的生态系统。这次基准测试中，七家OEM厂商一共提交了22个GPU加速的平台。这些服务器里多数都是NVIDIA认证系统，经过验证能跑多种加速工作负载，而且很多型号已经支持上个月正式发布的NVIDIA AI Enterprise软件。参与本轮测试的合作伙伴包括戴尔科技、富士通、慧与、浪潮、联想、宁畅、超微，以及云服务提供商阿里巴巴。

软件的力量

NVIDIA能在所有AI用例中稳定领先，靠的不只是硬件，更是完整的软件栈。在推理方面，这个栈里包含针对各类用例的预训练AI模型——NVIDIA TAO Toolkit可以利用迁移学习给特定应用做模型定制。然后，NVIDIA TensorRT软件负责对模型进行优化，让它们最有效地利用内存，跑得更快。TensorRT在NVIDIA的MLPerf测试中几乎是标配，而且同时支持x86和Arm系统。此外，测试中还用了NVIDIA Triton推理服务器软件和多实例GPU（MIG）功能，这些工具让普通开发者也能享受到通常只有专家级程序员才能调出来的性能。

随着软件栈持续迭代，相比四个月前的MLPerf推理测试，NVIDIA这次又提升了多达20%的性能和15%的能效。而且，所有用于最新测试的软件都已公开在MLPerf资源库里，任何人都可以复现结果。NVIDIA也会逐步把这些代码放进深度学习框架和容器中，用户可以直接在NVIDIA的GPU应用软件中心NGC上获取。这套全栈式AI平台，支持所有主流处理器架构，已经过行业基准的反复验证，客户可以通过多家合作伙伴拿到手，直接解决今天最现实的AI问题。

你是一名 AI 行业编辑，请围绕下面这条热点输出一份资讯解读：
热点：NVIDIA AI推理领先优势扩大 首度Arm服务器创佳绩要求：
1. 先用一句话解释这条热点在讲什么
2. 再总结它为什么重要
3. 说明会影响哪些 AI 产品或内容方向
4. 最后给出 3 个适合资讯站使用的标题