Edge Deployment：把AI模型部署到边缘设备上
Edge Deployment（边缘部署）是指将训练好的AI模型部署到靠近数据源的边缘设备（如手机、摄像头、IoT设备）上运行，而非全部放在云端。这种方式能大幅降低延迟、保护隐私、节省带宽，适用于自动驾驶、智能家居、工业质检等场景。
一句话解释
Edge Deployment就是把AI模型从云端“搬”到手机、摄像头、路由器这类离用户很近的设备上运行，让设备自己就能做智能判断，不用每次都问云端。
为什么会被关注
传统AI依赖云端推理，但网络不稳定、延迟高、数据隐私风险大。随着物联网和5G普及，大量实时场景（如自动驾驶、智能安防）需要毫秒级响应，边缘部署成为刚需。
此外，算力芯片的进步（如NPU、TPU）让手机、嵌入式设备也能跑大模型，企业开始将推理能力下沉到边缘，降低成本的同时提升用户体验。
核心逻辑
边缘部署的核心是“就近计算”：模型在本地设备上加载并执行推理，只把必要的结果或异常数据上传云端。这要求模型经过压缩、量化、剪枝等优化，以适应边缘设备有限的算力和内存。
通常流程包括：云端训练 → 模型转换（如TensorFlow Lite、ONNX）→ 部署到边缘设备 → 本地推理 + 结果反馈。部署后还能通过OTA更新模型，保持能力持续进化。
常见场景
智能摄像头：在摄像头内完成人脸识别、车牌检测，只上传报警截图，节省带宽和存储。工业质检：在产线边缘盒子实时判断产品缺陷，延迟低于10毫秒。
手机AI应用：语音助手、实时翻译、拍照优化均在本地端侧运行，避免联网延迟。智能家居：音箱、门锁内置语音模型，离线也能响应指令。
容易混淆的点
Edge Deployment≠云计算边缘节点：前者指模型跑在终端设备上，后者指把计算放在靠近用户的服务器节点（如CDN），仍然属于云基础设施。
Edge Deployment≠联邦学习：联邦学习是在边缘设备上训练模型并聚合参数，重点在训练；边缘部署重点在推理。不过两者常结合，联邦学习可优化边缘模型。
本文内容用于 AI 热词解释和概念整理，仅供学习和理解参考。若涉及表述偏差或内容修正，欢迎联系站点进行更新。
相关热词模型压缩是一系列旨在减少深度学习模型大小和计算需求的技术总称，目的是让强大的AI模型能在手机、汽车、物联网设备等资源受限的环境中高效运行。
联邦学习是一种新兴的分布式机器学习框架，其核心思想是在不交换原始数据的情况下，通过交换加密的模型参数或梯度更新，实现多个参与方协同训练一个共享的机器学习模型。它旨在解决数据孤岛与隐私保护之间的矛盾，是隐私计算领域的关键技术之一。