Google Research开源新架构：AI脱离云端，直接运行于手表耳机

Google Research近日宣布开源Coral NPU平台，这是一套面向硬件工程师与AI开发者的全栈开源解决方案，旨在帮助他们突破当前阻碍人工智能在可穿戴设备和边缘设备中普及的瓶颈，包括性能受限、生态碎片化以及用户信任缺失等挑战。

免费影视、动漫、音乐、游戏、小说资源长期稳定更新！ 👉 点此立即查看 👈

Coral NPU的核心目标，是让全天候AI应用能够在电池供电的设备上高效运行，同时为高性能场景提供灵活配置选项，最终实现能耗与算力之间的最佳平衡。

若要让AI真正发挥“助手”作用，例如主动帮用户规划日程、实时翻译对话，或理解所处的物理环境，它必须能够在用户佩戴或携带的设备上本地运行。这一需求带来了根本性的挑战：如何在电量受限的边缘设备中嵌入环境感知型AI，让设备摆脱云端依赖，从而实现私密、安全、真正全天候的智能体验。

Google研究人员指出，使用Coral NPU构建的硬件设备，能够支持多种AI应用场景，包括用户活动与环境感知、音视频处理（如语音识别、实时翻译、人脸识别）以及手势识别等。

在将AI融入可穿戴设备和边缘设备的过程中，Coral NPU平台聚焦解决三大关键问题：

弥合边缘设备有限算力与前沿大模型高需求之间的鸿沟；

缓解设备生态碎片化带来的开发难题，统一不同厂商的专有芯片与硬件环境；

确保用户数据免受未授权访问，强化隐私保护。

在架构层面，Coral NPU通过反向设计理念重新定义芯片逻辑：不再优先考虑传统的标量计算，而是将重点放在机器学习矩阵引擎上，从底层硅片开始为AI优化，实现更高效的本地推理性能。

在隐私防护方面，Coral NPU采用CHERI等技术手段，通过精细化的内存级安全机制与可扩展的软件隔离体系，构建由硬件强制执行的沙箱环境，确保用户数据安全。

该平台基于符合RISC-V指令集架构（ISA）的一组IP模块构建，其基础设计即可在仅消耗数毫瓦功耗的情况下，达到每秒512 GOPS（十亿次运算）的性能。相比之下，早期的非开源版Google Coral可实现4 TOPS（万亿次运算），但功耗约为1瓦。

Coral NPU平台包含三大核心组件：

管理数据流的标量核心；

兼容RISC-V向量指令集的向量执行单元；

用于加速神经网络计算的矩阵执行单元。

在编程层面，Coral NPU架构与现代C编译器（如IREE与TFLM）深度集成，并支持多种机器学习框架，包括TensorFlow、JAX和PyTorch。

为进一步提升性能，Google研究团队开发了一整套复杂的工具链：使用TensorFlow、JAX或PyTorch构建的机器学习模型，会先被转换为通用的中间表示（MLIR），再经过多层次的语义降级，逐步接近硬件底层语言，最终编译为二进制文件，实现高效部署。

值得一提的是，Google Research还与Synaptics合作，共同打造了首款基于这一新架构的物联网处理器，为Coral NPU的落地提供了首个样本。

目前，Coral NPU平台已在GitHub开源。

原文链接：https://www.infoq.com/news/2025/10/google-coral-npu-platform/