深度学习驱动的人工智能应用解析

今天，从智能家居到智慧城市，AI已经渗透到各个角落。但一个AI应用真正跑起来，离不开两个关键步骤：训练和推理。所谓训练，就是用海量数据反复“教会”神经网络模型如何工作；而推理，则是用训练好的模型在线响应用户需求，对新数据做出实时决策。通常训练只需做一次，有时甚至交给第三方专业团队，而应用工程师的核心任务是把模型部署到特定硬件上，让推理又快又准。推理直接面对用户，速度与准确性决定了用户体验，如何有效加速，就成了开发者普遍关心的话题。

说到AI推理加速，硬件架构上有四个可选方案：CPU、GPU、FPGA和ASIC。从左到右，灵活性递减，但处理能力和性能功耗比递增。CPU基于冯·诺依曼架构，虽然灵活，但存储器访问延迟长，应对神经网络这种计算密集型任务功耗也大，显然不是首选。GPU数据并行能力强，训练阶段优势明显，但推理通常一次只处理一个输入，并行优势发挥不出来，功耗还相对较高，同样不是最优选择。定制的ASIC性能功耗比诱人，但开发周期长、费用高，面对快速演进的深度学习算法，灵活性严重受限，风险太大。所以，名单上只剩下FPGA了。

FPGA快速、灵活、高效，硬件可编程的特性使其能针对神经网络做定制优化，提供充足算力，同时保留足够的灵活性。今天的基于FPGA的异构计算平台，除了可编程逻辑，还集成了多个Arm处理器内核、DSP、片上存储器等资源，深度学习所需的处理能力可以很好地映射到这些资源上，而且所有资源都能并行工作——每个时钟周期可触发数百万个同时操作，对于AI推理再合适不过。与CPU和GPU相比，FPGA的优势还在于：不受数据类型限制，可以处理非标准的低精度数据，提高吞吐量；功耗平均低5~10倍；可通过重新编程适应不同任务，对持续演进的深度学习算法尤其关键；应用范围广，从云端到边缘端都能胜任。一句话，AI推理的竞争中，FPGA胜出没有悬念。

不过，FPGA虽然“真香”，但很多开发者还是对其敬而远之，原因很简单——上手太难。难点主要体现在两方面：一是编程需要特定的硬件描述语言和工具链，通过综合、布局、布线等复杂步骤才能完成编译，这对大多数嵌入式工程师来说是一套完全陌生的“语言”；二是很多深度学习模型是在GPU上训练出来的，移植到FPGA时可能遇到重新训练、调整参数等问题，需要专门的AI知识。如何降低门槛？Mipsology公司带来了一个“惊喜”——基于FPGA的深度学习推理引擎Zebra，让开发者在“零努力”的情况下，把GPU训练的模型代码直接转换到FPGA上运行，无需改写任何代码或重新训练。这意味着改变神经网络参数甚至网络结构，都不需要强制重新编译FPGA（那可能要花数小时甚至数天）。Zebra让FPGA对开发者变得“透明”，模型训练好后，可以无缝从CPU或GPU切换到FPGA进行推理，无需额外时间。目前Zebra已支持Caffe、Caffe2、MXNet和TensorFlow等主流框架，在硬件上完美支持Xilinx的Alveo U200、U250、U50等加速卡。对开发者来说，“一旦将FPGA板插入PC，只需一个Linux命令”，FPGA就能代替CPU或GPU立即进行无缝推理，在更低功耗下将计算速度提高一个数量级。这种即插即用的体验，无疑让人兴奋。

图1，Zebra可适应由GPU翻跟斗训练的NN，并无缝地在FPGA上部署

更好的消息是，安富利亚洲与Mipsology达成合作协议，将向亚太区客户推广和销售Zebra这一独特的FPGA深度学习推理加速软件。这对双方是双赢：Mipsology能让Zebra更快覆盖更多开发者，安富利则进一步扩展了自身的物联网生态系统，为希望部署深度学习的客户提供一整套服务，包括硬件、软件、系统集成、应用开发、设计链和专业技术。

你是一名 AI 行业编辑，请围绕下面这条热点输出一份资讯解读：
热点：深度学习驱动的人工智能应用解析要求：
1. 先用一句话解释这条热点在讲什么
2. 再总结它为什么重要
3. 说明会影响哪些 AI 产品或内容方向
4. 最后给出 3 个适合资讯站使用的标题