移动AI
Gemma 4 完全离线运行于移动设备,无需云端
React Native 开发者现在可以嵌入 Gemma 4,在 Android 和 iOS 上通过硬件加速实现离线推理。该模型本地处理视觉和工具使用任务,如演示中所示,完全在设备端读取传单并安排日历事件。

谷歌已通过 React Native 使 Gemma 4 在设备端可用,使跨平台移动应用能够完全离线运行该模型,并利用本地硬件加速。该集成支持 Android 设备上的 Vulkan 委托以及 Apple Silicon 上的 MLX 委托,利用 GPU 和神经引擎进行推理。 how-local-llms-like-gemma-and-qwen-are-taming-open-source-repository-triage-at-scale
这一部署在不需服务器往返的情况下解锁了 Gemma 4 的视觉和工具使用功能。开发者可以构建能够读取文档、分析图像或触发操作(如排程事件)的应用,所有过程均在用户设备上处理。在一个演示中,模型读取一张打印的传单并添加日历条目,无需网络连接即可完成工作流。 cuga-ibms-open-source-agent-harness-lets-you-build-apps-with-just-a-prompt-and-tool-list
本地执行通过将数据保留在设备上来解决延迟和隐私问题。它还减少了对云基础设施的依赖,降低了开发者的运营成本。React Native 的跨平台特性意味着单个代码库可以支持 Android 和 iOS 部署,只需少量适配。 the-hidden-bottleneck-in-ai-inference-why-deepseeks-dspark-rewrites-the-rules-of-speculative-decoding
设备端 Gemma 4 变体的性能基准尚未公布,但该模型系列的早期版本已在移动尺寸语言模型方面展示了有竞争力的结果。工具使用能力, , 允许模型调用函数并与应用组件交互, , 是需要在设备端执行实际任务的 AI 助手的一个差异化优势。 microsofts-new-platform-gives-scientists-a-governed-factory-for-ai-agents
开发者今天即可通过谷歌更新的 ML Kit 和 React Native 的 MediaPipe 包开始测试该集成。文档和示例代码可供那些构建下一代本地 AI 移动体验的开发者使用。 bytedance-tencent-and-alibaba-go-cold-on-ai-friends-upsetting-millions