上個月的谷歌 I/O 開發者大會上推出了眾多王炸產品，其中一個遺漏就是，在發布的同時提供了端側多模態 AI 模型 Gemma 3n。該模型專為資源受限的設備設計，僅需 4GB 內存即可在手機、平板和筆記本電腦上本地運行，支持處理音頻、文本、圖片和影片等多種數據類型。
本地運行 AI 模型 Gemma 3n 超低內存需求
基於 Gemini Nano 架構，採用逐層嵌入（PLE）技術，儘管參數量高達 5B 和 8B，但其內存占用僅相當於 2B 和 4B 模型，只需 4GB 或 6GB 的動態內存即可運行，能在內存小於 4GB 的設備上流暢運行。
集成了 KVC 共享和高級激活量化等技術，在移動設備上的響應速度比前代 Gemma 3 4B 約快 1.5 倍，同時保持了優於 Gemma 3 4B 版本的質量表現。
AI 功能可在本地運行，無需聯網，所有推理在本地完成，能有效保護用戶隱私，杜絕雲端泄露風險。支持音頻、文本、圖片和影片輸入，可生成結構化文本輸出。新增的音頻處理能力，能實時轉錄語音、識別背景音或分析音頻情感，適用於語音助手和無障礙應用。
在非英語語言處理方面取得了突破性進展，尤其在日語、德語、韓語、西班牙語和法語中表現優異，在多語言基準測試 WMT24 中，得分高達 50.1%。
長上下文支持：支持最長 128K tokens 的上下文長度，單次請求可處理大量數據，能更好地理解和處理長篇內容，極大增強了模型的適用性。
支持在 Google Colab 上進行快速微調，開發者可通過幾小時的訓練定製模型，適配特定任務，便於快速原型設計和測試創意，也有助於推動 AI 從通用工具向行業解決方案進化。
此外，谷歌還推出了一款名為 「Google AI Edge Gallery」 的應用程序。該應用目前已在 Android 平台上線，iOS 版本即將推出。用戶可通過該應用查找、下載並運行包括 Gemma 3n 在內的多種兼容模型，無需網際網路連接，直接調用所支持手機的處理器即可實現圖像生成、問題解答、代碼編寫與編輯等功能
Google AI Edge Gallery 谷歌 AI 邊緣應用庫
這款名為 「谷歌 AI 邊緣應用庫」（Google AI Edge Gallery）的應用目前已在 Android 平台上線，iOS 版本即將推出。用戶可通過該應用查找、下載並運行兼容模型，實現圖像生成、問題解答、代碼編寫與編輯等功能。這些模型支持離線運行，無需網際網路連接，直接調用所支持手機的處理器。
雲端運行的 AI 模型通常比本地模型更強大，但也存在缺點。部分用戶可能不願將個人敏感數據發送至遠程數據中心，或希望在沒有 Wi-Fi 或移動網路的環境下使用模型。Android 版谷歌 AI 邊緣應用庫的歡迎界面。Android 版谷歌 AI 邊緣應用庫的歡迎界面。
谷歌將這款應用稱為 「實驗性 Alpha 版本」，用戶可通過GitHub 鏈接按指引下載。主螢幕提供 「圖像問答」「AI 聊天」 等 AI 任務和功能的快捷方式。點擊任一功能，會顯示適用於該任務的模型列表，例如谷歌的 Gemma 3n 模型。
應用還提供 「提示實驗室」（Prompt Lab），用戶可通過它啟動由模型驅動的 「單輪」 任務，如文本總結和改寫。提示實驗室配備多個任務模板和可配置設置，用於微調模型的輸出表現。
谷歌提醒，實際使用效果可能因設備而異。硬體配置更強的現代設備運行模型的速度預計更快，而模型大小也會影響性能 —— 例如，較大的模型在回答圖像相關問題時，完成任務的時間會比小模型更長。
目前，谷歌正邀請開發者社區成員對 「谷歌 AI 邊緣應用庫」 的使用體驗提供反饋。該應用基於 Apache 2.0 許可協議發布，意味著其可在商業或其他大多數場景中不受限制地使用。
