神经网络处理器NPU比普通CPU的主要优势有哪些

寒武纪在A股科创板正式挂牌，顶着“AI芯片第一股”的光环，一上市就引发了圈内圈外不少讨论。

粗略算一下，目前国内IC设计企业已经超过1500家，但真正做AI芯片的公司并不多，创业公司也就20多家。在这20多家里面，寒武纪算是走得最靠前的一个，尤其是这次IPO，上市第一天股价就飙涨，热度确实很高。那么问题来了，这个被炒得火热的AI芯片，到底是什么东西？它和我们天天见到的普通CPU，区别又在哪里？

从底层逻辑上讲，AI处理器是一类比较特殊的芯片。它把人工智能技术和机器学习融合在一起，让芯片能够模仿人脑的一些功能，专门为深度学习这类AI任务做优化。说通俗点，它就像是一个用了多个特定功能处理器的系统。而普通的CPU呢，则是被封装在一个更小的芯片里，主要负责给移动设备提供各种应用支持——打电话、刷视频、运行App，都是它的活。

不得不说，营销团队对“人工智能”这个词是真爱。因为这个词听起来“前沿又高级”，所以他们几乎想把一切能沾边的东西都贴上“AI”的标签。你一定听过“人工智能芯片”这个说法吧？其实，它的真名应该叫NPU（神经处理单元）。这东西本质上是一种特殊设计的ASIC（专用集成电路），专门为了让移动设备能跑起机器学习模型而生的。

这些ASIC的架构设计很有意思，它能让机器学习模型的执行速度比传统方式快很多。你不用把数据先传到服务器上，再等服务器算完传回来——直接在本地就搞定了。虽然单次运算的绝对能力可能没那么强，但因为数据和处理器之间没了中间环节，整体速度反而更快。

那么，NPU到底比普通CPU强在哪？

简单粗暴地理解，NPU就是AI芯片，普通CPU就是CPU。这个比喻虽然不严谨，但胜在好懂。

CPU在常规负载下表现很好，因为它有很高的IPC（每时钟周期指令数），适合串行执行。它的架构遵循的是经典的冯·诺依曼体系——存储程序，顺序执行。在这种架构下，CPU不得不用大量空间去放存储单元（Cache）和控制单元（Control），真正用来计算的单元只占很小一部分。这就导致它在并行计算方面的能力非常受限，但反过来，它在逻辑控制方面确实很拿手。

NPU和GPU的强项，恰恰就体现在并行计算上。NPU做了很多硬件级的优化，比如给每个处理核都配了一个容易访问的缓存系统，让多线程并行执行的能力上了一个台阶。这些处理核比普通的CPU核心要“轻”得多，因为它们不需要处理各种五花八门的任务，专精于一件事。这一整套优化下来，NPU的效率自然就高了，这也是为什么现在那么多研发资源都投到了ASIC上。

一个典型的机器学习模型跑起来，CPU、DSP、GPU、NPU可能都得同时工作。这种多处理器协同作战的方式，也解释了为什么这类计算对移动设备来说确实“负担不轻”。

NPU的另一个优势在于，它大部分时间都专注于低精度的算法，搭配新的数据流架构或者内存计算能力。和GPU追求高吞吐量不同，NPU更看重延迟——越短越好。

当然，AI算法本身的角色也至关重要。比如图像识别领域，主流用的是CNN（卷积神经网络）；语音识别和自然语言处理，则主要是RNN。虽然应用场景不同，但从数学上看，本质都是矩阵或向量的乘法、加法，再配合一些除法、指数运算。

更进一步讲，一个成熟的AI算法，往往会针对卷积运算和加权求和这类特定数学过程做深度优化。这种优化的结果就是：运算速度极快。你可以把它想象成一个没有图形处理器的GPU。对AI芯片来说，只要目标尺寸确定了，总的乘加运算次数就是确定的。打个比方，一万亿次运算，用AI芯片跑，一顿饭的功夫就解决了；但要是用CPU，可能得好几个礼拜。这个时间差，任何商业公司都耗不起。

放眼全球，AI芯片公司都有哪些？

除了前面提到的寒武纪，国内还有不少知名的AI芯片公司，比如比特大陆、地平线、天数智芯、熠知电子、探境科技、燧原科技、海思、嘉楠科技等。这些公司几乎都经历了从2015年到现在这一轮实际落地的检验，才走到了今天。各家产品的风格也各有不同——功耗、性能、应用场景都有自己的一套，在中国这个庞大的市场上各自占有一席之地。

国内AI芯片公司正处于热潮之中，那国外的情况又如何呢？下面来盘点几家我们认为在AI芯片领域走在前列的顶级玩家。排名不分先后，主要看那些已经展示了技术并且投入生产，或者即将投产的公司：

1. Alphabet（谷歌母公司）

谷歌的母公司一直在推动AI技术在多个领域的落地，包括云计算、数据中心、移动设备乃至台式电脑。其中最具代表性的，大概就是它的张量处理单元（TPU）。这是一款专门为谷歌的TensorFlow编程框架定制的ASIC，主要用于机器学习和深度学习这两个AI分支。谷歌的Cloud TPU是为数据中心或云解决方案设计的，大小差不多一张信用卡；而Edge TPU则比一枚一美分的硬币还小，专为特定设备设计。不过，有分析师指出，谷歌的Edge TPU短期内大概率不会出现在自家的智能手机和平板电脑上，更可能先服务那些更高端、更昂贵的商用设备。

2. Apple

苹果自己开发ARM芯片已经很多年了，最终的目标很可能是彻底停止使用英特尔这样的供应商。苹果基本上也摆脱了与高通的纠缠，看起来确实是下定决心要在AI领域走自己的路了。最新款的iPhone和iPad上用的A13“仿生”芯片，搭载了苹果的神经引擎——这是电路的一部分，第三方App无法直接调用。A13比之前的版本更快、更省电。据报道，A14已经在生产中，今年应该会出现在更多苹果设备上。

3. ARM

ARM Holdings的芯片设计方案，被包括苹果在内的几乎所有顶级科技厂商采用。作为一家芯片设计公司，它自己不制造芯片——这一点，像极了微软不自己造电脑。换句话说，ARM在市场上的影响力非常大。目前，它在AI芯片设计上沿着三个主要方向推进：Project Trillium，一种追求“超高效”、可扩展的新型处理器，目标是机器学习应用；机器学习处理器，听名字就知道是干什么的；Arm NN（神经网络的缩写），一种用于处理TensorFlow、Caffe（一种深度学习框架）以及其他几种架构的处理器。

4. Intel

早在2016年，据《华尔街日报》报道，芯片巨头英特尔收购了初创公司Nervana Systems，获得了它的软件、云计算服务和硬件，以便让自家产品更好地适应AI的发展。英特尔自家的AI芯片系列被称为“神经网络处理器”，其原理是让人工神经网络模仿人脑的工作方式，通过经验和实例来学习——这也是为什么你经常听到机器学习和深度学习系统需要“训练”。随着Nervana的加入，英特尔似乎打算优先解决与自然语言处理和深度学习相关的问题。

5. Nvidia（英伟达）

在GPU市场，大家都知道英伟达处于领先地位，而GPU在处理AI任务时的速度比CPU快得多。看起来，英伟达在初生的AI芯片市场也占了先机。这两项技术可以说是高度相关的：英伟达在GPU上的进展，有力地加速了AI芯片的开发。事实上，GPU似乎成了英伟达AI产品的基石，而其芯片组可以被称为“AI翻跟斗”。早在2018年，英伟达就发布了Jetson Xa vier。公司CEO黄仁勋在发布会上甚至说：“这台小电脑，将成为未来机器人的大脑。”深度学习似乎是英伟达最感兴趣的方向。深度学习可以看作是机器学习的高级形态。你可以把机器学习理解为使用相对有限的数据集进行短期学习，而深度学习则利用长时间积累的大量数据来获得结果，这些结果反过来被用来解决更深层次、更潜在的问题。

6. AMD（超微半导体）

和英伟达一样，AMD是另一家与显卡和GPU深度绑定的芯片制造商，这背后有电脑游戏市场过去几十年的增长，也有比特币挖矿浪潮的推动。AMD提供硬件和软件解决方案，比如用于机器学习和深度学习的EPYC CPU和Radeon Instinct GPU。EPYC是AMD给服务器（主要用于数据中心）的处理器起的名字，而Radeon则主要面向游戏玩家。其他芯片还有Ryzen，以及名气更大的Athlon。AMD在AI专用芯片的开发上似乎还处于相对早期，但鉴于其在GPU领域的实力，观察家们认为它有望成为该市场的领导者之一。值得一提的是，AMD已签约向美国能源部提供EPYC和Radeon系统，用于建造“Frontier”——世界上最快、最强大的超级计算机之一。

7. Qualcomm（高通）

高通在智能手机热潮初期通过与苹果的合作赚得盆满钵满。苹果决定停止购买它的芯片，想必让高通尝到了被冷落的滋味。但高通在这个领域当然也不是小角色，它一直在做大手笔的投入。去年，高通发布了一款新的“云AI芯片”，似乎有意将其与第五代电信网络（5G）的开发捆绑在一起。这两项技术被认为是构建自动驾驶汽车和移动计算设备新生态系统的基础。分析师认为，高通在AI芯片领域算是后来者，但它在移动设备市场积累的丰富经验，将有助于它实现“让设备上的AI无处不在”的目标。

当然，还有三星、台积电、Facebook、IBM、LG等大型国际公司，也都在研发自己的AI芯片。谁能最先掌握最前沿的AI芯片技术，谁就能在新的经济上升周期中分到最大的一块蛋糕。

话说回来，大公司市场部描绘给我们的现实，和公司外部的现实之间，往往存在不小的差距。尽管几十年的研究让我们处理信息和分类输入的速度比以往任何时候都快，但目前我们买到的硬件里，其实并没有真正的“AI”。所以，哪家芯片公司能真正抓住市场痛点，最先实现应用落地，谁就在AI芯片这条赛道上取得了最大的优势。

目前，全球人工智能产业依然在高速发展。不同的行业分布为AI应用提供了广阔的市场前景，商业化的社会也需要AI的落地。AI芯片是实现这些算法的硬件基础，也是未来人工智能时代的战略制高点。全球各大顶级公司为此而战，已成定局。但需要警惕的是，目前的AI算法往往各有优劣，只有为它们找到最合适的场景，才能最好地发挥作用。也希望AI能早日真正走到我们普通人身边。

从产业发展阶段来看，现在仍是人工智能芯片的初级阶段。无论是科研方向还是商业应用，都有非比寻常的创新空间。在具体应用场景中，算法不断迭代的AI芯片，正向具备更高灵活性和适应性的通用智能芯片发展——这是技术发展的必然方向。更少的神经网络参数计算位宽，更多样的分布式存储器定制设计，更稀疏的大规模向量实现，复杂异构环境下更高的计算效率，更小的体积和更高的能量效率，以及计算和存储一体化——这些都将成为未来AI芯片的主要特征和发展趋势。

你是一名 AI 行业编辑，请围绕下面这条热点输出一份资讯解读：
热点：神经网络处理器NPU比普通CPU的主要优势有哪些要求：
1. 先用一句话解释这条热点在讲什么
2. 再总结它为什么重要
3. 说明会影响哪些 AI 产品或内容方向
4. 最后给出 3 个适合资讯站使用的标题