软硬兼施是边缘智能火力全开的关键

你是否好奇，这些海量数据最终流向何方？答案其实非常现实：绝大多数都堆积在网络边缘。随着移动计算与物联网应用的爆发式增长，数以十亿计的联网设备不断涌入网络，持续在边缘侧生成数据。这些数据分散、零碎，特征鲜明——尽管云计算能力强大，但要想全面覆盖这些零散的数据节点，显然并不现实。而边缘计算的核心价值，恰恰在于它能有效分担云端的压力，让数据处理更贴近数据源。

根据Machina Research的预测，到2025年，全球物联网连接数将激增至270亿个。这些设备绝大多数部署在远离云计算的边缘端。试想一下，如果将这些海量数据全部传回云数据中心处理，会带来什么后果？延迟高得惊人，网络带宽也会被白白浪费。因此，边缘智能（Edge AI）的概念应运而生——让设备依靠自身硬件来处理与机器学习相关的数据。换句话说，物联网设备不再只是单纯的“数据收集器”，它更应该成为一个具备数据处理能力的“执行器”。

边缘智能中不可忽视的“软”技术

那么，真正让边缘智能“活”起来的关键是什么呢？Edge AI，本质上就是将边缘计算与人工智能相结合，使本地硬件设备能通过机器学习算法处理自身生成的数据。它的优势不仅在于处理速度快——更令人瞩目的是，这种灵活性让智能设备能够适应各种行业应用场景。此外，在安全性方面，Edge AI也具有天然优势：数据在本地处理，安全风险自然可以降到最低。

在实际部署中，边缘设备（无论是终端设备还是边缘服务器）需要足够的硬件与软件支持，才能发挥最佳性能。说到硬件，芯片无疑是边缘智能的灵魂。这条赛道上既有NVIDIA、Intel、NXP、Xilinx、ST、TI、Maxim等国际巨头，也有像寒武纪这样的国内新兴力量。它们的产品，正让Edge AI的应用越来越贴近现实世界。

不过，硬件再强，如果没有软件的加持，也只是一堆没有灵魂的零部件。以机器学习为例，如果能将其集成到Edge AI的软件层中，物联网数据分析和决策的能力将显著增强。Astute Analytica的数据也印证了这一点：预计全球Edge AI软件市场在2021-2027年间将以29.8%的复合年增长率增长，到2027年市场规模将达到80.5亿美元。

软件开发工具——听起来可能有些枯燥：编译器、调试器、操作系统、库……但它们是让硬件真正运转的基础。许多供应商在Edge AI中会用到GPU、DSP、FPGA等专用计算设备来加速CPU，这意味着标准的开发工具需要定制版本。它们在开发自身优化软件工具链的同时，也常常与第三方软件工具供应商合作，确保产品能得到广泛支持。这是整个行业的一大共识。

01 JetPack SDK：支持NVIDIA Jetson边缘计算平台

说到具体的软硬件方案，NVIDIA Jetson平台绝对是一个绕不开的标杆。该平台包括小型高性能边缘计算机模组（Jetson模组）、可加速软件的JetPack SDK，以及一整套生态系统——传感器、SDK、服务和产品应有尽有。Jetson模组（SOM）本身集成了CPU、GPU、高速接口、内存、电源管理等核心组件。

NVIDIA Jetson的主要优势，在于其模块化产品组合非常灵活。无论是小企业还是大公司，都能找到符合自身需求的模组。例如，Jetson Nano是经济高效的入门级产品；Jetson TX1则更多用于制造业。新一代Jetson TX2与TX1引脚兼容，但性能翻倍，功耗仅7.5W；其中的TX2i版本在工业机器人和医疗设备领域应用广泛。而Jetson Xavier NX体积小巧，支持所有主流AI框架，能在边缘端提供高达21 TOP的加速AI计算能力。至于Jetson AGX Xavier，它专为自主机器打造，性能大约是TX2i的20倍，是英伟达AI嵌入式系统中性能最强的模组。

硬件丰富固然重要，但真正让Jetson平台获得好评的，是其统一的软件开发环境和完整的生态系统。JetPack SDK就是那个把一切串联起来的核心。它支持所有Jetson模组和开发者套件，是构建AI应用的全面解决方案。目前，JetPack 4.4是最新的正式版。

这套SDK包含了适用于Linux的最新Linux驱动包（L4T），以及用于深度学习、计算机视觉、加速计算和多媒体的CUDA-X加速库与API。它还附带示例、文档和开发者工具，并支持像DeepStream SDK和Isaac SDK这样的更高级别SDK。简单来说，TensorRT、cuDNN、CUDA Toolkit、VisionWorks、GStreamer、OpenCV——这些软件工具全都捆绑在一起，运行在L4T和LTS Linux内核之上。更关键的是，Jetson与其他NVIDIA平台所用的AI软件和云原生工作流兼容，这意味着客户可以在边缘端使用与云端相同的工具。

02 eIQ：NXP机器学习软件开发环境

再看另一家巨头，NXP（恩智浦）。它的EdgeVerse平台是一个功能全面的边缘计算和安全平台，通过可扩展的嵌入式处理产品组合，将高性能和高能效的计算模块整合在一起。该平台覆盖了NXP业界领先的嵌入式处理、安全、软件以及行业解决方案，尤其适合物联网、工业和汽车市场这些边缘应用场景。具体产品包括i.MX嵌入式处理、Layerscape应用处理器、K32、LPC和Kinetis微控制器、i.MX RT跨界处理器，以及车用微控制器和处理器等。

在软件层面，NXP推出的方案叫eIQ机器学习（ML）软件开发环境。它支持在EdgeVerse微控制器、i.MX RT跨界MCU和i.MX系列应用处理器上使用ML算法。这套软件融合了开源和专有技术，可以完全集成到恩智浦的MCUXpresso软件开发套件和Yocto开发环境中。

eIQ的特点，是它提供了一套全面的工作流程工具、推理引擎、神经网络（NN）编译器，以及经过优化的数据库。最新扩展的版本，新增了eIQ Toolkit工作流程工具、基于GUI的eIQ门户开发环境，以及专门为i.MX和i.MX RT设备优化的DeepViewRT推理引擎。eIQ Toolkit的作用是提供简单的工作流程和机器学习应用示例；eIQ门户则提供了一个图形化开发选项，当然开发人员也可以继续使用命令行工具。借助eIQ门户，可以轻松创建、优化、调试、转换并导出机器学习模型，也能从TensorFlow、ONNX和PyTorch等框架中导入数据集和模型。

推理引擎是机器学习开发的核心。eIQ支持针对Glow、ONNX和TensorFlow Lite等设备进行优化的开源推理引擎。而新增的DeepViewRT推理引擎，可以在i.MX RT跨界MCU和i.MX 8M系列应用处理器上运行机器学习模型，具备在Arm Cortex-M/A内核、GPU和NPU上运行推理的能力。它还可以作为MCUXpresso SDK版本和Yocto BSP版本（用于Linux开发）的中间件。

03 Vitis AI：Xilinx人工智能推断软件开发工具

最后来看Xilinx（赛灵思）。它的Vitis统一软件平台被许多人视为一个里程碑。这是一款从云到端、从软件到AI都提供了综合库和模型的统一平台。AI开发人员可以利用Vitis AI的高层次框架训练自己的模型。Vitis AI架构中，AI Model Zoo就像一个“大超市”，里面存放着来自Pytorch、TensorFlow、TensorFlow 2和Caffe等流行框架的现成深度学习模型，适用于在Xilinx硬件平台（包括边缘器件和Alveo卡）上进行人工智能推断。

Vitis AI开发套件包含几个关键组件：AI优化器、AI量化器、AI编译器、AI分析器。使用Vitis AI，可以在边缘器件上实现高效的AI计算，应用场景包括IoT、自动驾驶及ADAS、医疗成像以及视频分析等。

具体来看：AI优化器采用领先的模型压缩技术，在对精度影响极小的情况下，将模型复杂性降低5到50倍；AI量化器通过将32位浮点权值和激活量转换为INT8这样的定点网络模型，在不影响预测精度的情况下，大幅降低计算复杂度；AI编译器的作用是将AI模型映射至高效指令集和数据流，还能执行层融合和指令排程等高级优化任务；而借助AI配置器，程序员可以深入分析AI推断实现方案的效率和利用率。Vitis AI库则是一组高层次库和API，通过深度学习处理器单元（DPU）进行有效的AI推断，为模型部署提供了易于使用的接口。

结语

回到主线。边缘人工智能应用程序能够在现场处理数据、安全传输数据，同时提升设备的隐私保护水平。因为无需先向云端发送数据，其周转时间也大大缩短。IoT高度依赖数据驱动，这种特性进一步说明了现场数据处理的重要性。如今，许多企业已经看清：边缘人工智能不只是一个可选项，它正以一种深刻的方式改变整个行业。IDC的预测数据也很能说明问题：到2023年，超过50%的新企业IT基础设施将部署在边缘，而不是企业数据中心；到2024年，边缘应用的数量将增加800%。

要在空间紧张、功耗和散热受限、成本敏感的环境中高效运行，边缘人工智能解决方案需要高集成度、高速、低功耗以及高效率的软硬件产品来支撑。优化的计算架构和芯片产品，为边缘计算提供了可靠的硬件基础。但与此同时，一个功能全面的软件环境同样不可或缺——唯有“软硬兼施”，现有的边缘智能芯片潜力才能被最大限度地释放。这才是打造真正有竞争力的边缘智能系统的关键所在。

你是一名 AI 行业编辑，请围绕下面这条热点输出一份资讯解读：
热点：软硬兼施是边缘智能火力全开的关键要求：
1. 先用一句话解释这条热点在讲什么
2. 再总结它为什么重要
3. 说明会影响哪些 AI 产品或内容方向
4. 最后给出 3 个适合资讯站使用的标题