TinyML：让机器学习在微控制器上轻装上阵

一句话解释

TinyML是指在内存、算力和功耗都极其有限的微控制器（如Arduino、ESP32）上部署和运行机器学习模型的技术，让“万物”都能拥有简单的智能推理能力。

为什么会被关注

传统AI依赖云端或高性能芯片，但物联网设备数量庞大、功耗敏感、网络不稳定。TinyML能在设备本地完成推理，无需持续联网，大幅降低延迟和带宽成本。

同时，微控制器全球出货量每年超百亿颗，且隐私法规要求数据本地处理。TinyML让这些低端芯片“开窍”，推动了智能家居、工业预测维护等领域的落地，成为边缘计算的重要分支。

核心逻辑

TinyML的核心在于模型轻量化。通过量化（将浮点参数转为整数）、剪枝（删除无用连接）、知识蒸馏（用大模型教小模型）等手段，将原始模型体积压缩至KB级别。

另外，专门为MCU优化的推理框架（如TensorFlow Lite Micro、Edge Impulse）提供算子库和运行时，适配不同架构的微控制器，并利用CMSIS-NN等硬件加速库提升速度。

常见场景

智能语音唤醒：如“小爱同学”在低功耗芯片上实时监测关键词，仅在检测到唤醒词后才启动主系统。

工业振动异常检测：在传感器节点上分析设备振动模式，提前预警故障，无需上传大量原始数据。

可穿戴健康监测：智能手表用TinyML分析心电或血氧数据，本地判断心律失常，保护用户隐私。

容易混淆的点

TinyML≠边缘AI。边缘AI通常指在网关或路由器等中等算力设备上运行，而TinyML限定在微控制器（MCU）上，算力和内存更小。

TinyML≠深度学习简化版。虽然使用类似模型，但需要针对硬件特性重新设计网络结构（如深度可分离卷积），并且输入输出往往不是图像而是传感器时序数据。