推动AI处理向边缘设备迁移的几大因素

为什么边缘设备和计算中的AI应用是未来？

变革从来都是技术发展的常态。随着技术迭代加速，企业也必须拥抱这些变化才能获得最大收益。就像我们亲眼见证了计算从大型机向云端的迁移一样，人工智能（AI）也正在向边缘IoT设备和网络靠拢。数据量在持续爆炸，我们不得不思考：数据存储和计算到底该放在哪里更合适？高通、NVIDIA、英特尔这些巨头，正在把这一设想变成现实。

边缘站点的计算系统虽然比中央数据中心小得多，但它们早已不是当初的“微末角色”。得益于今天x86商用服务器处理能力的巨大飞跃，很多工作负载已经能轻松跑在边缘。更关键的是，如果应用对延迟敏感，边缘就是那个“更快”的选择。更好的隐私保护、更强的安全性、更低的延迟和更省带宽——这是边缘平台最诱人的几个标签。

什么是边缘人工智能？

所谓边缘AI，就是在本地硬件设备上直接处理AI模型。它也被称为设备端AI。这意味着你可以在几毫秒内完成数据处理并拿到实时结果。用户可以随时享受设备上应用提供的个性化功能——比如手机里的智能助手，再也不用等云端返回。

IDC的数据很说明问题：到2023年，边缘AI软件市场预计将从2018年的3.55亿美元增长到1.12万亿美元。IDC研究总监Da ve McCarthy说得直白：“AI是边缘计算中最常见的工作负载。随着物联网部署的成熟，人们越来越想在数据产生的那一刻就应用AI进行实时事件检测。”

云端边缘

目前，大多数AI处理还是在云端的数据中心里用深度学习模型完成的，这需要大量算力。延迟是云环境或云支持物联网设备最常见的“痛点”。而且，数据传输上云的过程中，数据被盗或泄露的风险始终存在。边缘计算则可以先对数据进行整理，再送去远程分析，变相提升了安全性。更重要的是，边缘AI将让智能物联网管理变得更加可行。

在边缘架构下，推理计算直接发生在设备本地。这不仅减轻了回传云端的数据流量负担，还能把物联网设备的响应时间压缩到极致——管理决策在靠近设备的地方就能完成，优势一目了然。

Edge AI需求的驱动因素

那么，是什么在推动AI处理不断向边缘迁移？几个关键因素值得注意：

首先，实时客户参与已经和位置无关——比如在设备上完成在线支付、监控运动数据，这些场景都需要即时反馈。其次，我们已经有能力在边缘设备上运行大规模DNN模型。多种框架和技术支持模型压缩，比如谷歌的TensorFlow Lite、Facebook的Caffe2Go、苹果的CoreML、Nervana的神经网络蒸馏器以及SqueezeNet。第三，物联网传感器数据需要快速处理和分析。最后，边缘平台能大幅降低带宽成本——数据不用全往云端跑了。

边缘设备产品

根据AI应用和设备类型的不同，市面上也有多种用于边缘AI处理的硬件选项。CPU、GPU、专用集成电路（ASIC）、现场可编程门阵列（FPGA）以及片上系统（SoC）翻跟斗——任你选择。注意，这里的“边缘”通常指的是设备端，不包括网络集线器或微型数据中心（除非是安全摄像机里带网络录像机NVR的那种）。

目前排名前三的边缘产品是：

• Nvidia Jetson Nano
• 英特尔神经计算棒2代
• Google Edge TPU开发板

其中，NVIDIA Jetson Nano开发工具箱使用最广泛、最受欢迎。它以史无前例的尺寸、功能和成本，提供了运行现代AI工作负载所需的计算性能。开发者、学习者和创客现在可以在这个小设备上运行图像分类、目标检测、分割和语音处理等任务的AI框架和模型。它集成了板级支持包（BSP）、Linux OS、NVIDIA CUDA、cuDNN和TensorRT软件库——覆盖深度学习、计算机视觉、GPU计算、多媒体处理等方方面面。最棒的是，软件可以直接用可刷写的SD卡映像来部署，快速上手毫无门槛。

其他值得关注的还包括：NVIDIA Jetson TX1、TX2、TX2i（后者能承受更高的振动、温湿度范围及灰尘环境）、面向RISC-V AI+IoT的Sipeed Maixduino套件、Raspberry Pi 4计算机模型B、Coral开发板等。

实际应用

毫无疑问，边缘AI正在改变未来。企业和公司已经开始将其融入产品，以提供高效、无忧的体验。来看几个真实案例：

万豪国际集团与三星、罗格朗合作，打造了全球首个物联网酒店客房。房间内多个位置高度个性化，客户可以根据应用里存储的信息，按自己的喜好一键设置房间环境。

日本汽车制造商丰田正在利用原本为汽车制造设计的AI边缘机器人技术，帮助行动不便者实现更多自主行动。

自主配送系统——比如亚马逊的配送无人机和多米诺机器人——利用计算机视觉导航障碍物并优化路线。这些系统依赖边缘AI提供数据、地理位置、预测时间和个性化更新。

在工厂里，具备AI功能的边缘计算系统能够将多台计算机的数据关联起来，检测并最终预测出可能导致停机的故障。

Expensify的虚拟助手Concierge帮助公司自动处理费用报告和差旅安排；它还能通知客户实时价格变化，甚至代为提交收据。

边缘AI的用途和潜力因行业和公司而不同。尽管基于边缘的推理已被证明是云计算更优秀的替代方案，但这一领域仍有大量工作待做。未来，值得期待。

你是一名 AI 行业编辑，请围绕下面这条热点输出一份资讯解读：
热点：推动AI处理向边缘设备迁移的几大因素要求：
1. 先用一句话解释这条热点在讲什么
2. 再总结它为什么重要
3. 说明会影响哪些 AI 产品或内容方向
4. 最后给出 3 个适合资讯站使用的标题