人工智能赋能最远边缘物联网端点更智能

物联网的本质在于海量数据的生成与处理，而人工智能的融入，使数据洞察力实现了质的飞跃。例如，AI已能精准识别伦敦供水管网的泄漏点，指导工程师定位需要更换的管道；能够分析东京涩谷十字路口高峰时段的人流对交通的影响；还能评估纽约时代广场上新广告的受众反应。这三个案例分别代表公用事业、物流与营销行业，均因人工智能而焕发新生。

当前物联网收集的数据规模已十分庞大，但这仅是冰山一角，未来将更加庞大且富有价值。据Gartner 2019年2月报告，组织中AI的采用率同比提升了三倍。对于工程师和工程公司而言，提升设备网络的智能化水平，是释放物联网潜力的关键所在。

人工智能在工业物联网（IIoT）中最有用的地方

人工智能正快速成为主流计算资源即可处理的任务。例如，单传感器设备（如哮喘吸入器）已应用机器学习推理；智能手机具备AI驱动的照片增强功能；高级车辆也搭载了计算机视觉应用。这些应用改善日常生活，但最直接的商业价值体现在工业领域。任何能提升生产力的技术都具有价值。运营数据常用于洞察机器的当前状态，工业传感器生成的数据包含多种模式，通过复杂分析可帮助预测资产何时可能发生故障，从而在故障影响生产力之前加以修复。以往，预测性和预防性分析依赖大型服务器和云端，如今AI和机器学习已开始向网络边缘迁移，甚至直接嵌入构成工业物联网的设备中。

边缘机器学习

机器学习处理向边缘迁移有多重原因。最直观的是边缘是数据诞生的地方。更关键的是，数据会消耗带宽和处理资源。若所有物联网生成的数据都发送至服务器处理，网络流量和服务器功耗将指数级增长。因此，谷歌等公司正精简部分算法，使其能在边缘AI设备上独立运行，无需依赖云。就像在边缘设备中嵌入HTML服务器已成为普遍做法一样，在传感器这类端点中执行机器学习同样可行。关键在于实现方式遵循分布式处理概念。训练AI算法需要大量处理资源，但属于一次性投入；执行推理模型所需资源相对适中，但数量可能更多。区别在于，每个推理实例可独立打包执行，轻松移植到小得多的处理器上，并按需复制。这种分布式智能正是未来互联网的形态——必要时独立运行，同时仍是整体的一部分。边缘处理避免了通过日益拥挤的网络传输数据，并减少了对宝贵处理资源的消耗。

机器学习架构

训练完成后，AI框架会提供部署路径。对于资源受限的边缘设备，有TensorFlow Lite、Caffe2等方案。这些平台多为开源，并附带“入门教程”——预训练模型可提供推理能力。用户还可通过迁移学习用自定义数据集重新训练模型，从而节省大量处理时间。为使模型跨架构移植，通常需通过解释器运行，主机软件使用API调用。优化后的模型可在不足100KB的内存中运行。边缘设备上运行机器学习的例子众多，不少设备运行基于Linux的操作系统。这些基于CPU的机器学习方案使用通用微处理器，而非台式机中功耗大、面向GPU的大型设备。GPU虽有高度并行的执行单元和多个MAC单元，但往往难编程、功耗高，不适合资源受限的边缘设备。TensorFlow Lite的目标是在较小处理器上运行部分TensorFlow模型，提供多种预训练模型，包括图像分类、目标检测和分割。三种模型工作方式略有差异：图像分类处理整张图，目标检测将图拆分成矩形，分割则深入每个像素。要在TensorFlow Lite部署中使用训练好的TensorFlow模型，需进行模型转换，同时可用可选优化减小文件体积。转换器可作为Python的API使用，示例如下：

import tensorflow as tf
converter = tf.lite.TFLiteConverter.from_sa ved_model(sa ved_model_dir)
tflite_model = converter.convert()
open("converted_model.tflite", "wb").write(tflite_model)

在标准处理器上运行机器学习，意味着开发者可使用基于行业标准语言（如Python）的简单软件方案。部分处理器可能带有DSP扩展，以加速部分数据流，但通用处理器已能处理小型设备中运行ML所需的负载，同时兼顾普通应用代码。以CPU为主导的AI早已在智能手机中普及，用于识别照片中的特定特征。工业应用同样如此，基于多核处理器（如NXP的i.MX系列）的片上系统（SoC）方案通常用于将ML应用于工业流程，例如机器视觉系统识别特定产品在制造过程中的进度。这些SoC正是当前ML部署的典型代表。

超越地平线

尽管CPU或MCU主导的AI已十分常见，但我们正展望设备网络的最远边缘——那里对尺寸、功耗和成本的要求极其苛刻。最新版TensorFlow——TensorFlow Lite Micro（或TF Lite Micro）正是为此而生。该框架版本专为微控制器设计，可能完全没有操作系统，而非运行Linux的微处理器。其代码和模型加起来仅需45KB Flash和30KB RAM即可运行。这是最远边缘的推理——设备完全自主运行，不依赖任何其他软件或额外硬件。使用TF Lite Micro的过程与TensorFlow Lite类似，但需编写更底层的代码来运行推理。除在代码中包含相关的.h文件外，主要步骤包括：添加日志写入代码、实例化模型、为输入/输出和中间数组分配内存、实例化解释器、验证输入形状，然后实际运行模型并获取输出。以下代码片段展示了如何获取输出：

TfLiteTensor* output = interpreter->output(0);
uint8_t top_category_score = 0;
int top_category_index;
for (int category_index = 0; category_index < kCategoryCount;
     ++category_index) {
  const uint8_t category_score = output->data.uint8[category_index];
  if (category_score > top_category_score) {
    top_category_score = category_score;
    top_category_index = category_index;
  }
}

为在微控制器上支持机器学习，Arm开发了CMSIS-NN软件库，它是Cortex微控制器软件接口标准（CMSIS）中处理神经网络的部分。通过量化（将浮点数降为整数，几乎不降低精度），CMSIS-NN帮助开发者将模型映射到微控制器的有限资源上。像TF Lite Micro这样的超高效ML框架，结合CMSIS-NN，使得在超低功耗微控制器上运行ML成为可能。应用场景众多，尤其适合“永远在线”的系统——大部分时间处于深度睡眠，直到特定条件（如唤醒词）才激活。这可以看作一种新型的中断服务程序，能智能地决定何时需要启用芯片或系统的其余部分。这清晰地表明了超低功耗ML功能在边缘的巨大潜力。

展望未来，专注于边缘推理需求的技术开发，将使高度响应且功能强大的ML模型以更低功耗运行。例如，Arm为Armv8-M架构开发了新的向量扩展，称为Helium。这是Arm Cortex-M处理器的最新进展，2015年推出Armv8-M架构时已引入Arm TrustZone的安全优势。Helium向量扩展将类似NEON的处理能力与TrustZone的安全特性相结合，为Cortex-M类微控制器带来显著性能提升，助力实现许多新应用，使边缘ML更灵敏、更准确。Helium可使Cortex-M设备的机器学习性能提升15倍。对开发者而言同样重要的是，他们可以在用于其他微控制器开发的同一工具链中访问ML。像识别异常振动、意外噪音或警报图像这类功能，可直接嵌入控制代码中，从而简化将ML部署到边缘的整个过程。

由于物联网的扩展不再依赖云服务，且始终与物联网保持连接，如果物联网要扩展到数万亿台设备，那么利用边缘推理来限制通过日益拥挤的网络传输的数据量，将是必不可少的一环。

你是一名 AI 行业编辑，请围绕下面这条热点输出一份资讯解读：
热点：人工智能赋能最远边缘物联网端点更智能要求：
1. 先用一句话解释这条热点在讲什么
2. 再总结它为什么重要
3. 说明会影响哪些 AI 产品或内容方向
4. 最后给出 3 个适合资讯站使用的标题