Gemma 4携手Arm深度优化端侧AI并加速移动端应用体验

实时响应的智能助手、无缝衔接的通信体验、深度个性化定制功能——这些看似只需几分钟即可向智能设备下达的指令，实际上正在重新定义全球数十亿智能手机用户眼中的“基本需求”。在功耗红线之内，高效运行高性能的端侧AI，并大规模推广即时、智能的交互体验，正是释放AI下一波增长潜力的核心所在。

谷歌近期发布的Gemma 4，正是瞄准了这一方向。其目标十分明确：让开发者能够更便捷地获得经过优化的性能，将日益强大的AI能力直接嵌入用户每天使用的应用程序中。当然，要在全球智能手机的规模上实现这一目标，仅靠模型本身远远不够，背后必须有一套坚实可靠的计算基础设施作为支撑——在整个Android生态系统中，Arm正是那个贯穿始终的“基础架构基石”。

本次推出的Gemma 4在性能与效率方面均有显著提升，特别是扩展了对多模态应用场景的支持——包括推理、智能体工作流，以及整合视觉与音频的任务，这些都是当前Arm设备上备受关注的方向。跨文本、音频、图像的增强能力、更广泛的语言覆盖，再加上一套为实时辅助体验打造的基础架构，使得Gemma 4在几乎不增加内存占用的前提下，能够在设备端实现更具响应性、更理解上下文语境的交互体验。

在Arm早期的工程测试中，SME2技术在运行Gemma 4工作负载时取得了令人瞩目的成绩。针对Gemma 4 E2B（等效20亿参数）模型的初步测试结果显示：预填充环节（处理用户输入）平均加速了5.5倍，解码环节（生成响应）最高可提升1.6倍。这一数据直观地展现了Armv9 CPU在端侧AI工作负载方面的巨大潜力。需要指出的是，这些测试已经覆盖了即将推出的谷歌XNNPACK与Arm KleidiAI补丁。

那么，这些改进落到实际应用中会带来怎样的变化呢？可以参考Envision的案例。这家专注于无障碍服务的公司，为盲人及低视力用户开发了一款应用，此前进行场景解析需要依赖云端连接。但在本次原型测试中，Gemma 4直接在搭载SME2功能的Arm CPU上本地运行。用户拍摄一张照片后，设备端即可获取详细的场景描述，无需网络连接，敏感数据也无需上传至云端。

这些基于Arm CPU的探索，充分体现了Arm计算平台在灵活性上的广度，以及在CPU与异构计算路径上持续创新的潜力。

最终的结果是什么呢？更低的延迟、更强的隐私保护，以及在任何网络环境下都能保持一致的稳定体验。从依赖云端到本地推理，对移动应用而言是一次深刻的变革——它既降低了开发者的基础设施成本，又提升了用户侧的稳定性，更重要的是，为实时应用打开了全新的可能性空间。

“Envision非常高兴能与Arm和谷歌合作，将强大的无障碍体验直接带到智能手机上。在支持SME2的Arm CPU上本地运行Gemma 4等视觉理解模型，为盲人及低视力用户带来了可靠、低延迟的场景描述和视觉问答能力。对我们的用户群体而言，离线使用这些功能至关重要，这意味着无论身处何处，技术都能正常运作；同时，在设备端完成更多处理也进一步保障了用户隐私。”——Envision首席执行官 Karthik Mahadevan

Envision只是一个典型样本，但它揭示了一个趋势：随着越来越多开发者接入Gemma 4，端侧AI将从个例逐渐演变为常态，最终成为默认的架构选择。

SME2到底是一项什么样的技术？

Armv9架构堪称迄今为止最安全、覆盖最广、最先进的指令集之一。而SME2（可扩展矩阵扩展2），正是该架构中的关键CPU指令集——它专门用于在智能手机功耗约束下，加速矩阵密集型的AI工作负载。目前，SME2已集成在最新Android手机采用的Arm C1 CPU中，能有效解锁更高的持续性能并提升能效。

更关键的是，开发者几乎无需修改代码、调整模型或变更部署方式，即可获得这些优势。因为通过Arm KleidiAI——Arm的软件加速层，SME2的能力已嵌入到谷歌XNNPACK、LiteRT、MediaPipe等主流框架中。只要面向基于SME2的Arm Android设备进行开发，开箱即可获得性能优化。

落实到用户体验上，这些软件层面的提升意味着更快的响应速度、更流畅的持续交互，以及更稳定的端侧AI能力。即便模型能力持续增强，电池续航和热稳定性也能得到良好维持。

“要在整个Android生态系统中高效部署Gemma 4，需要在硬件与软件层面展开深度协作。我们与Arm的合作体现了双方对推动端侧AI发展的共同承诺——将Armv9架构及SME2等内置加速技术的优势与Android操作系统深度融合，以大规模释放更强的性能与效率。我们携手合作，让开发者能够更轻松地为用户提供快速、响应灵敏且保护隐私的AI体验，且无需修改现有应用程序。”——谷歌Android工程总监 Sandeep Patil

随着越来越多的应用将AI迁移至设备端，Arm和谷歌的目标十分清晰：为开发者提供足够便捷的性能优化工具和清晰的指引，让Gemma 4在所有基于Arm的移动设备上都能加速运行。

移动AI的未来，不在于模型体量的大小，而在于它能否高效、安全、广泛地覆盖整个Android生态系统。通过本次合作，端侧AI的红利正逐步惠及全球数十亿Android智能手机用户。

注：音频功能仅适用于E2B（等效20亿参数）和E4B（等效40亿参数）版本。

Q&A

Q1：Gemma 4在端侧AI性能上实现了哪些突破？

A：根据Arm早期工程测试，在搭载SME2技术的设备上运行Gemma 4 E2B模型时，预填充环节平均加速5.5倍，解码环节最高提升1.6倍。这些提升得益于Armv9架构中的SME2指令集，并通过Arm KleidiAI软件加速层自动实现，开发者无需修改现有代码或模型即可获得性能优化。

Q2：Arm的SME2技术是什么？它如何助力Gemma 4高效运行？

A：SME2（可扩展矩阵扩展2）是Armv9架构中的一组先进CPU指令集，专为在智能手机功耗范围内加速矩阵密集型AI工作负载设计。它已内置于最新Android手机采用的Arm C1 CPU中。通过Arm KleidiAI软件层与谷歌XNNPACK等运行时库的集成，开发者只需面向支持SME2的Arm设备开发，即可自动获得Gemma 4的性能优化，无需额外改动代码。

Q3：Gemma 4在设备端运行对用户隐私有哪些实际益处？

A：Gemma 4在设备端本地运行意味着用户数据无需上传至云端处理，有效降低了隐私泄露风险。以Envision应用为例，用户拍照后可直接在设备上获取场景描述，敏感图像数据不会离开本地设备。此外，本地推理还消除了对网络连接的依赖，即使在离线状态下也能正常使用，进一步提升了用户体验的稳定性与可靠性。

你是一名 AI 行业编辑，请围绕下面这条热点输出一份资讯解读：
热点：Gemma 4携手Arm深度优化端侧AI并加速移动端应用体验要求：
1. 先用一句话解释这条热点在讲什么
2. 再总结它为什么重要
3. 说明会影响哪些 AI 产品或内容方向
4. 最后给出 3 个适合资讯站使用的标题