Gemma 4与Arm强强联合：提升端侧AI效能 革新移动应用体验

随着智能手机对实时AI功能需求的激增，端侧AI技术正成为提升用户体验的关键。本文将深入解析Gemma 4如何与Arm架构协同优化移动端AI性能。

谷歌最新发布的Gemma 4显著推进了端侧AI发展进程，使开发者能够轻松获取经过优化的AI性能。该技术将强大的AI体验直接嵌入日常应用程序，而Arm架构则为整个Android生态系统提供了至关重要的计算基础。

Gemma 4在提升性能效率的同时，还增强了对Arm设备多模态应用场景的支持。这些场景包括推理、智能体工作流以及视觉音频融合应用。通过增强的文本、音频和图像处理能力，以及更广泛的语言支持，Gemma 4可在不增加内存负担的情况下，实现更具响应性和情境感知的本地交互体验。

Arm的早期测试数据显示，SME2技术运行Gemma 4工作负载时展现出显著性能提升。在Gemma 4 E2B模型测试中，预填充环节平均加速5.5倍，解码环节最高提速1.6倍。这些测试涵盖了即将推出的谷歌XNNPACK与Arm KleidiAI补丁，充分展现了Armv9 CPU在端侧AI领域的潜力。

以无障碍应用Envision为例，该程序评估了基于Gemma 4的本地化方案。传统上需要云端连接完成的场景解析，现在只需拍摄照片即可在设备端获取详细描述。这一创新不仅无需网络连接，还避免了敏感数据上传云端。

Arm CPU的这些实践展现了其在灵活性和异构计算创新方面的优势。最终效果包括：延迟降低、隐私保护增强，以及稳定的网络适应性。从云端到本地的转变将降低开发者成本，提升用户体验，并开创实时应用新场景。

Envision首席执行官Karthik Mahadevan表示："在支持SME2的Arm CPU上本地运行Gemma 4，为视障用户提供了可靠、低延迟的视觉理解能力。离线功能确保了技术在任何环境下都能正常工作，同时更好地保护了用户隐私。"

Envision案例展示了Gemma 4与Arm平台结合的早期成果。随着更多开发者采用Gemma 4，端侧AI将逐渐成为默认架构选择。

Armv9架构是目前最安全、先进的指令集架构，其SME2技术专为加速矩阵密集型AI工作负载而设计。该技术已集成至最新Android设备的Arm C1 CPU中，可提升持续性能和能效表现。

通过Arm KleidiAI软件加速层，SME2的优势可直接应用于谷歌XNNPACK等主流运行时库。开发者只需面向支持SME2的Arm设备开发，即可自动获得性能优化，无需修改现有代码或模型。

这些软件优化转化为更优质的端侧体验：响应更快、交互更流畅、AI能力更稳定，同时保持良好的电池续航和热稳定性。

谷歌Android工程总监Sandeep Patil指出："Arm与谷歌的合作体现了双方对端侧AI发展的承诺。通过将Armv9架构与Android系统深度融合，我们让开发者能轻松提供快速、响应灵敏且保护隐私的AI体验。"

Arm与谷歌正致力于为开发者提供优化工具和指引，帮助Gemma 4加速所有Arm移动设备上的应用体验。

移动AI的未来在于能否在整个Android生态中高效、安全地大规模运行。通过这次合作，端侧AI的红利将惠及全球数十亿智能手机用户。

注：音频功能仅适用于E2B（等效20亿参数）和E4B（等效40亿参数）版本。

Q&A

Q1：Gemma 4在端侧AI方面有哪些性能提升？

根据Arm测试，在SME2设备上运行Gemma 4 E2B模型时，预填充环节平均加速5.5倍，解码环节最高提速1.6倍。这些提升来自Armv9架构的SME2指令集，通过Arm KleidiAI自动生效，无需开发者修改代码。

Q2：Arm的SME2技术是什么？它如何帮助Gemma 4运行？

SME2是Armv9架构中的先进CPU指令集，专为加速矩阵密集型AI工作负载设计。该技术已集成至最新Android手机的Arm C1 CPU中。通过Arm KleidiAI与谷歌XNNPACK的集成，开发者只需面向支持SME2的设备开发，即可自动获得Gemma 4的性能优化。

Q3：Gemma 4端侧运行对用户隐私有什么好处？

Gemma 4本地运行意味着用户数据无需上传云端，降低了隐私泄露风险。以Envision为例，用户拍照后可直接在设备上获取场景描述，敏感数据不会离开本地。离线功能还消除了网络依赖，提升了使用稳定性。