边缘AI：让智能在设备端实时运行
边缘AI是指在靠近数据产生端的设备上运行的人工智能模型，无需依赖云端服务器，实现实时推理、低延迟和隐私保护。
一句话解释
边缘AI就是把人工智能算法直接部署在摄像头、手机、传感器等本地设备上运行，让设备自己就能做判断，不用每次都把数据传到云端去处理。
为什么会被关注
传统AI依赖云端，网络延迟和带宽成本让很多实时场景难以落地。边缘AI将推理放到设备本地，响应时间从秒级降到毫秒级，尤其适合自动驾驶、工业质检等对速度要求苛刻的场景。
隐私问题也是关键。用户数据不需要上传云端，在本地完成分析，降低了数据泄露风险。同时离线可用也让智能设备在无网络环境下仍能正常工作，比如智能门锁的人脸识别。
核心逻辑
边缘AI的核心是模型轻量化技术，通过剪枝、量化和知识蒸馏等手段把大模型压缩到几MB甚至几百KB，再部署到ARM芯片、NPU或MCU等低功耗硬件上。
设备端利用专用AI加速芯片（如神经网络处理器）进行高效推理，只把必要的结构化信息（如“有人闯入”而非原始视频流）上传给云端做进一步分析或模型更新，形成端云协同的闭环。
常见场景
智能安防：摄像头内嵌AI芯片，实时识别可疑行为并报警，无需把所有录像上传云端。工业质检：产线边缘盒子对产品图像做毫秒级缺陷检测，次品数据再回传训练。
自动驾驶：车载芯片处理激光雷达和摄像头数据，实时决策刹车或转向。智能家居：语音助手在本地处理唤醒词识别，避免每次都要联网查询。可穿戴设备：手表本地运行心率异常检测模型，保护用户健康数据。
容易混淆的点
边缘AI不等于离线AI。它通常仍会与云端保持定期通信，用于模型更新和异常上报，只是推理过程在本地完成。另外边缘AI也不等同于边缘计算，后者范围更广，包含网络、存储等基础设施，而边缘AI特指在边缘侧部署和运行AI模型。
很多人把端侧AI与边缘AI混用，其实端侧AI是边缘AI的子集，专指手机、手表等消费终端；而边缘AI还包括工业网关、路侧单元等更重型的边缘节点。两者共同特点是数据不离场、低延迟。
本文内容用于 AI 热词解释和概念整理，仅供学习和理解参考。若涉及表述偏差或内容修正，欢迎联系站点进行更新。
相关热词模型压缩是一系列旨在减少深度学习模型大小和计算需求的技术总称，目的是让强大的AI模型能在手机、汽车、物联网设备等资源受限的环境中高效运行。
联邦学习是一种新兴的分布式机器学习框架，其核心思想是在不交换原始数据的情况下，通过交换加密的模型参数或梯度更新，实现多个参与方协同训练一个共享的机器学习模型。它旨在解决数据孤岛与隐私保护之间的矛盾，是隐私计算领域的关键技术之一。