边缘计算助力物联网草根崛起

前言

如今，我们每个人都置身于一个基于互联网的世界并对此习以为常。可你是否认真思考过，互联网对我们生活最大的改变是什么？在我看来，答案是人们对信息消费模式的深刻变革——在互联网世界中，信息的获取与分发不再依赖有限的传统渠道，每一个“草根”用户都可以成为独立进行信息接收、处理和传播的价值个体；过去那种依赖单一意见权威的模式已被打破，一个“去中心化”的“草根时代”已然来临。但你是否注意到，类似互联网世界“去中心化”的进程，也正在物联网领域悄然上演？这一趋势的核心推动力，正是边缘计算。本教程将带你深入理解边缘计算的起源、核心价值、与人工智能的结合方式，以及其在硬件和软件层面的具体实现路径。

边缘计算的缘起

十多年前，云计算的概念开始兴起。当时人们意识到，将以往分散在各个角落的计算资源集中起来，交由远在“云端”的数据中心进行统一处理，是一种更高效的运营模式，并且可以转化为灵活可定制的服务，远程分发给分布在全球各地的客户。此后，物联网应用的快速扩张，在很大程度上也得益于这种云计算的加持——网络边缘端的设备只需负责数据采集和指令执行等简单任务，而复杂的计算则被传输到云端完成，这大大简化了物联网边缘节点的设计与部署。

然而，随着应用的发展和需求的变化，这种单一的集中式云计算模式也遇到了诸多挑战，其固有的一些短板逐渐显现出来：

• 数据量激增导致的带宽压力：物联网中急剧增长的数据量，对网络传输资源的消耗极其巨大。如果所有数据都必须送往云端处理，再大的带宽也难以承受。
• 不可接受的延迟：云计算这种远程数据处理模式，不可避免地会引入延迟。对于自动驾驶、工业控制这类对实时性要求极为严苛的物联网应用来说，这显然无法接受。
• 安全与隐私风险：信息在传输过程中存在安全隐患，而且许多用户不希望自己的敏感数据被存储在远程云端。这些关乎安全和隐私的问题日益突出。
• 能耗不经济：在能耗方面，有研究表明，云计算中数据传输所消耗的能量，比数据处理本身高出整整一个数量级。从整个计算架构来看，这显然是不经济的。

解决所有这些云计算问题的答案，就是边缘计算。所谓边缘计算，就是将以往在云端完成的计算任务，下放到网络边缘端或靠近边缘端的设备中执行。这样一来，一方面可以对来自边缘端的数据进行更及时的处理和响应，另一方面也能对数据进行“初加工”，再传输到云端做进一步深度处理，从而有效缓解网络传输和数据中心的负荷，实现最优的计算资源配置。

可见，边缘计算能够就近直接处理来自现实世界的数据，减少需要搬运和传输的数据量，避免延迟，提升隐私与安全性。即使在网络故障时，它也能继续提供服务，在可靠性和用户体验方面都有显著加分……作为传统云计算模式的完善与补充，边缘计算可谓是“真香”。

小提示：边缘计算并不是要取代云计算，而是与云计算协同工作。你可以把云计算想象成“总部大脑”，边缘计算则是“前线小分队”，快速处理紧急任务，只把关键报告传回总部。

常见问题：边缘计算和雾计算有什么区别？
答案：雾计算是一个更宽泛的概念，通常指在网络边缘和云之间的一层分布式基础设施；边缘计算则更聚焦于数据源附近的终端设备或网关。在实际应用中，两者经常混用，但边缘计算更贴近物理设备。

在边缘上实现AI

认识到边缘计算的价值之后，人们进一步思考的是：我们可以赋予边缘计算哪些能力？随着实践的深入，这个答案令人兴奋。而其中最大的“兴奋点”，就是“在边缘计算上实现人工智能（AI）”。这将让我们身边的边缘设备变得更“聪明”，能够从数据中洞察出有价值的信息，真正读懂用户的“心思”，提供更完美的体验。

实现一个完整的AI应用需要两个步骤：训练（Training）和推理（Inference）。训练是指将大量数据代入神经网络进行运算并反复迭代，最终训练出一个人工智能模型，这个过程就像我们通过已知知识的学习获得一项技能或工具；而推理则是利用这个训练好的模型，对新的输入数据进行处理并做出正确判断，可以将其视为学以致用，利用掌握的技能去解决未知世界的新问题。

其中，模型训练所需的计算量是巨大的。以百度的一个语音识别模型为例，一个训练周期需要4TB的训练数据，以及20 EFLOPS的计算能力，相当于每秒2x10¹⁹次数学运算，因此这个过程通常是在云端的数据中心完成。而推理过程，每次针对一个输入项进行处理并做出决策，对计算资源的要求相对较低，完全可以在网络边缘端完成，从而形成“训练在云端、推理在边缘”的计算架构。这样一来，网络边缘产生的数据，经过边缘端的推理，处理结果直接输出给用户，对提升服务质量和用户体验大有裨益。

如果你觉得上面的描述还有些抽象，那就试想一下自动驾驶汽车对路面交通状况做出及时恰当的反应，或者一个支持离线处理的本地化人脸/声音识别系统带给你的便利。这些被赋予AI能力的新一代边缘应用，都将使我们的生活焕然一新。

当然，要实现这样能够支持AI的边缘计算，还是有一些技术挑战需要克服，其中最为关键的有两条：如何实现更强的边缘计算能力，以及如何在资源受限的边缘设备上部署AI应用。

优化边缘硬件的算力

更高的计算性能，可以说是云端数据中心追求的首要目标，而边缘设备面临的情况则截然不同。在边缘节点工作的嵌入式设备，通常需要用有限的计算资源完成特定的工作，受到功耗、成本、外形等多重因素的制约。因此，要在边缘设备中实现更高的计算性能，特别是要支持AI推理，就需要经过优化的硬件处理架构，以满足边缘端特定的要求。

FPGA在边缘计算中的应用

在确定边缘计算硬件处理架构时，FPGA是一个不错的选择。由于具备硬件可编程的特性，FPGA可以摆脱冯·诺依曼架构的束缚，无需指令即可完成工作，无论是实现数据并行，还是流水线并行处理，它都能胜任。这种灵活性在适应不断迭代的AI算法、提供最优加速性能方面，特别有价值。近些年发展起来的集成了Arm处理器的FPGA SoC，更是将处理器的软件可编程性与FPGA的硬件可编程性完美整合，非常适合性能受限、功耗苛刻、实时性要求高的网络边缘端AI推理计算。

异构计算平台

当然，在应对边缘计算方面，FPGA并不是唯一选择。通过在应用处理器中添加专门的神经网络计算引擎，形成一个异构计算平台，来应对AI应用中相关机器学习算法的要求，也是一条可行的技术路径。在针对特定应用方面，这种设计显然在性能和功耗上更具优势。

通用MCU上的AI突破

人们对边缘计算架构的优化并没有就此止步。基于MCU的边缘设备数量巨大，能否在这些性能更“低”的通用MCU上实现AI，也成为近年来芯片厂商竞争的新赛道。例如NXP Semiconductors（NXP）这两年力推的i.MX RT跨界MCU，就是一个非常成功的尝试。所谓“跨界”，是指i.MX RT采用了MCU的内核（Arm Cortex-M7），但基于MPU的架构，因此可以实现：

• 比肩MPU的高性能和丰富功能
• 兼具传统MCU的易用性
• i.MX RT106F MCU：NXP展示了一款基于i.MX RT106F的人脸识别解决方案，配合Peachache PMIC，在硬件“MPU+PMIC”架构上完全可行，从而避免了昂贵的DDR存储器
• 可配置的特定AI应用连接，兼容优化计算核心，并提升集成Arm GPU的FPGA SoC在AI推理方面的灵活性
• 通过软硬件协同优化，大幅提升这些处理器的认知能力

注意：针对中端MCU的边缘AI部署，功耗效率将大大提升。

小提示：选择边缘计算硬件时，建议先梳理端侧AI推理的具体任务（如人脸识别、语音指令、异常检测），再匹配对应算力的芯片，避免“杀鸡用牛刀”造成成本浪费。

常见问题：MCU上跑AI，性能够用吗？
答案：对于轻量级任务（如唤醒词检测、简单物体分类），经过优化的MCU足够胜任。但对于复杂的卷积神经网络（CNN），建议使用带NPU（神经网络处理器）的MCU或跨界处理器。

不可或缺的软件工具

优化的计算架构和芯片产品，为边缘计算提供了可靠的硬件支撑。而要将AI应用快速高效地部署在这个硬件平台上，还需要软件工具来助力。这些软件工具的核心作用，就是对AI模型进行优化，使其能够移植到特定的硬件推理引擎上，在资源受限的边缘设备中完成部署。

Xilinx Vitis™AI

我们以Xilinx推出的Vitis™AI开发环境为例，来了解这类软件工具的概貌。Vitis AI由优化的IP、工具、库、模型和示例设计组成，其目标是在Xilinx硬件平台上高效部署AI推理功能。

在Vitis AI的架构中，主要模块包括：

• AI模型库（Module Zoo）：提供一系列预先优化、可在Xilinx器件上部署的模型，支持主流框架和最新模型，完成各类深度学习任务。
• AI优化器（AI Optimizer）：利用模型压缩技术，在对精度影响极小的情况下，将模型复杂度降低5至50倍，以适应边缘计算的要求。
• AI量化器（AI Quantizer）：通过将32位浮点权值和激活量转换为INT8这样的定点数，降低计算复杂度，减少内存带宽占用，提升速度，降低功耗。
• AI编译器（AI Compiler）：将AI模型映射至高效指令集及数据流。
• AI配置器（AI Profiler）：帮助程序员深入分析AI推理实现方案的效率和利用率的性能分析工具。
• AI库（AI Library）：提供一系列轻量级C++及Python API，便于实现便捷的应用开发。

从上述介绍不难看出，Vitis AI这类边缘计算软件工具的核心作用在于：

• 为开发者提供支持主流神经网络架构的可用模型
• 对模型进行压缩和优化，以适应边缘计算的要求
• 提供完整的软件工具和开发环境，支持模型在硬件平台上的部署
• 集成丰富的设计资源

NXP eIQ™机器学习软件开发环境

与Xilinx的Vitis AI有异曲同工之妙的，还有NXP推出的eIQ™机器学习软件开发环境。它包含推理引擎、神经网络编译器和优化库，支持在包括通用MCU、i.MX RT跨界MCU和i.MX应用处理器等NXP广泛的硬件产品上部署机器学习模型。而且eIQ已经被集成到NXP的MCUXpresso软件开发套件和Yocto开发环境中，成为边缘应用嵌入式开发工具链中不可或缺的一部分。

值得一提的是，NXP还特别推出了针对汽车领域应用的eIQ Auto工具包，专用于NXP的S32V处理器和ADAS开发。eIQ Auto工具包的推理引擎包含一个后端，可自动为给定神经网络模型的工作负载选择最佳分区，覆盖器件中所有不同的计算引擎。这种针对垂直领域的产品细分，也代表了边缘计算软件工具的一个发展趋势。

小提示：无论使用Vitis AI还是eIQ，都建议参考官方提供的预训练模型库和示例工程，这可以大幅缩短从模型选型到硬件部署的开发周期。

常见问题：边缘AI模型部署主要面临哪些困难？
答案：主要是模型的大小和计算量超出硬件限制。解决办法包括模型剪枝、量化（如INT8）、知识蒸馏等。使用专门的工具链（如Vitis AI Optimizer、eIQ）可以自动完成大部分优化。

物联网的“草根”时代

总之，有了优化的硬件作为基石，再通过不断完善的软件工具让强大的AI功能在边缘应用上“落地”，由此打造出的边缘设备将被赋予更多的可能性。这些以往遍布我们周围、默默工作的物联网边缘设备，其形态、作用和价值也将被重新定义。

如果说与云端高大上的数据中心相比，物联网边缘设备显得有些“草根”，那么边缘计算的兴起无疑宣示着一个物联网的“草根”时代的到来。从智能门锁到工业传感器，从可穿戴设备到自动驾驶汽车，每个边缘节点都将获得前所未有的智能处理能力，让物联网真正从“连接万物”迈向“智慧万物”。

你是一名 AI 行业编辑，请围绕下面这条热点输出一份资讯解读：
热点：边缘计算助力物联网草根崛起要求：
1. 先用一句话解释这条热点在讲什么
2. 再总结它为什么重要
3. 说明会影响哪些 AI 产品或内容方向
4. 最后给出 3 个适合资讯站使用的标题