机器学习在嵌入式边缘处理中的具体实现

早在2020年，Gartner就将边缘计算列为十大战略技术趋势之一。按照Gartner的定义，边缘计算是一种拓扑结构——信息处理以及内容的收集和传递被放置在离信息源更近的位置，核心逻辑是保持流量本地化、分布式，以此来降低延迟。

这里面几乎包含了物联网的所有技术。边缘赋能，本质上就是围绕这些设备的增长方式做文章，为智能空间打下基础，同时让关键应用和服务更贴近使用它们的人和设备。根据预测，到2023年，网络边缘的智能设备数量可能是传统IT领域的20倍以上。

边缘处理——数十亿量级的蓝海市场

边缘计算凭什么能实现这样的增长？恩智浦（NXP）高级副总裁兼边缘处理事业部总经理Ron Martino点出了三大驱动力：第一，降低总体拥有成本——不必动不动就接入云端，本地处理就能省下不少费用；第二，保护数字隐私、提升安全性；第三，减少应用延迟，支持实时应用，提升本地的体验质量。

当边缘计算与传统分布式计算架构深度融合，边缘处理领域正在酝酿一场变革。NXP作为在安全、连接、嵌入式领域深耕多年的半导体厂商，会如何布局这片广阔的市场？又将带来哪些改变？

Ron Martino给出的答案是：边缘处理市场可以看作一个“分布式智能金字塔”。最底层是工业和物联网应用边缘——工业边缘包括工厂自动化、基础设施、交通运输、医疗等；物联网边缘包括智能家居、消费及可穿戴领域。这是规模最大的十亿量级市场。中间是网络边缘，主要支持5G本地网络及数据集成，规模在千万到亿级。最顶部是数据中心，以云服务为主，大约百万量级。NXP在边缘处理上的布局，主要落在三大类：网络边缘、工业边缘、物联网边缘——也就是金字塔底部和腰部体量最大的两块。

机器学习入侵边缘处理

几年前，大家普遍认为机器学习、深度学习只能跑在高端硬件上，靠网关、边缘服务器或数据中心来完成训练和推理。如今情况大不一样了——处理器不需要提供每秒数万亿次操作（TOPS）也能执行机器学习，只要用上内置机器学习翻跟斗的微控制器，就能在边缘设备上直接跑机器学习。

内置机器学习翻跟斗的微控制器，代表着物联网的下一阶段：在生产数据的源头——比如麦克风、摄像头、以及其他监测环境条件的传感器——直接引入智能计算。功耗极低、成本极低，就能出色地完成机器学习任务，只在绝对必要时才连接到云端。

目前，机器学习在边缘计算中的应用已经相当普遍。数据显示，有55%的开发者表示当前或未来的工作需要机器学习。早期的采纳者已经开始探索更有意义的用例，未来会有越来越多的开发者接受它，机器学习的开发门槛也会随之降低。

在NXP看来，嵌入式开发中引入机器学习，当务之急是让更多开发者真正用起来。NXP与Au-zone合作开发了机器学习工具包，还与Arm合作，让Arm Ethos-U65 microNPU提供可扩展、高性能的机器学习用例。通过这些合作，NXP加强了对eIQ机器学习开发环境的支持，帮助用户部署优化后的机器学习模型，并在全球范围内将机器学习能力优化到MCU级别。

不过，机器学习在嵌入式端具体怎么落地？毕竟设备资源有限，功耗、带宽、存储、模型尺寸等都有完全不同的要求。

NXP边缘处理事业部副总裁兼IoT业务线总经理于修杰表示，很多客户会问：能不能免费在设计中实现AI或机器学习？其实指的就是直接用CPU来跑。NXP的eIQ工具可以部署这种模式。比如在家居场景中，交互对象是人，推理需求不高，就不需要购买额外的加速产品，成本自然降下来了。

另外，微处理器中的应用处理器和神经网络翻跟斗发展速度非常快，更完善的解决方案层出不穷。总体趋势是把更多以AI为中心的功能——比如神经网络处理——与应用处理器一起整合到微处理器中，同时避免功耗或尺寸明显增加。

当然，目前还处于机器学习发展的早期阶段，会有很多迭代和战略微调。他强调，机器学习和AI应用在选择处理器上不可能一刀切，最终取决于市场对应用的需求、对功耗和成本的容忍度。每种技术都能找到自己适用和擅长的领域，未来还有很大的创新空间。NXP会通过可扩展的处理器，支持从简单到复杂的机器学习用例。

EdgeVerse是NXP的边缘处理平台，通过嵌入式处理产品组合，结合安全、软件和整体解决方案来加速边缘计算。具体包括MCU、跨界处理器、应用处理器以及高端微处理器等多个系列。其适用范围相当广泛，据Ron Martino介绍，可以覆盖新基建七大重点领域中的六个——AI、工业互联网、城际交通、5G、数据中心、新能源汽车充电。

边缘赋能下，嵌入式计算将如何演进？

混合计算架构正成为边缘计算融入物联网多种多样应用的一个重要趋势。跨界MCU——就是NXP顺应这一趋势的创新。所谓“跨界”，指的是介于常规MPU与MCU之间：采用MCU的内核，但基于MPU的架构。既能实现MPU的高性能和丰富功能，又兼具传统MCU的易用性、低功耗、低成本，打破了MPU和MCU之间的界限。

Ron Martino指出，机器学习已经出现约20年了。一旦发布一款芯片，人们就会尝试在处理引擎上运行各类计算——无论是DSP、CPU还是GPU。随着高集成度成为可能，在产品中使用这些计算密集型神经网络也成为现实。在软件层面，从整个协议栈到软件和应用层，也必须从机器学习的角度对许多方面进行评估。更重要的是用户体验——需要找到用户真正想解决的问题。这使得当前对机器学习用例的优化非常关键：通过硬件IP与软件相结合，真正解决终端应用需求。

“边缘计算有广泛的可能性，无论是性能还是能力。可扩展的解决方案具有更大的价值，它能充分挖掘边缘计算的能力。这需要一个非常广泛的器件组合，在满足软件要求的同时兼顾平台效率。”Ron Martino强调，“安全也越来越重要。随着接入点的增多，会产生大量关键数据，安全性和不断集成的功能已经成为极为重要的因素，也成为嵌入式计算不断演进的关键因素。”

至于嵌入式计算会如何演进？他表示，这些年来嵌入式计算的关键指标从频率、单线程性能，发展到具有很多计算模块的异构计算，能耗效率和成本效益在不断提升，机器学习功能也会不断进化。开发嵌入式计算产品不仅要结合各种计算模块实现互联，还需要进行软件的优化赋能和硬件的用例优化。机器学习和传统的CPU工作负载不同——比如内存接入可能成为潜在瓶颈，还需要优化尺寸，将其作为计算部件的一部分，实现与CPU功能及其他功能的协同。这是一个涉及系统级优化的复杂过程，需要熟练的制造流程作用于软件和硬件应用，才能真正优化性能并降低功耗。

你是一名 AI 行业编辑，请围绕下面这条热点输出一份资讯解读：
热点：机器学习在嵌入式边缘处理中的具体实现要求：
1. 先用一句话解释这条热点在讲什么
2. 再总结它为什么重要
3. 说明会影响哪些 AI 产品或内容方向
4. 最后给出 3 个适合资讯站使用的标题