除發布Google AI Edge Gallery（允許用戶在Mac上本地運行Gemma模型）外，谷歌還同步推出了Gemma 4 12B模型以及適用於Mac的Google AI Edge Eloquent聽寫應用程式。
日常使用大語言模型的用戶，大多依賴ChatGPT、Claude或Gemini等雲端模型，這些模型分別運行在OpenAI、Anthropic和谷歌的伺服器上。
與此同時，另一種與大語言模型交互的方式是通過本地模型。本地模型通常比雲端運行的萬億參數模型更小、能力更弱，但也具備多項獨特優勢。
首先，能力不及雲端模型並不代表本地模型表現差。其次，本地模型無需聯網，完全依靠電腦自身的處理能力運行。此外，設備性能越強，模型響應速度越快，所能承載的模型規模也越大。最重要的是，由於所有數據均在本地處理，無需離開設備，本地模型在隱私保護方面也更具優勢。
在Mac上安裝本地模型有多種途徑，此前當OpenAI發布開源模型時我們曾做過介紹。簡而言之，用戶需要安裝Ollama或LM Studio等平台，再選擇適配Mac硬體的模型進行安裝。
Hugging Face提供數千個開源模型供用戶選擇，其中包括來自頂尖實驗室的模型。Ollama和LM Studio等平台也支持用戶直接從平台內安裝這些模型。
這正是谷歌AI本地運行平台Google AI Edge Gallery的定位所在。谷歌此前已為Android和iOS用戶提供了該應用，此次正式推出macOS版本。
值得注意的是，與Ollama和LM Studio支持用戶安裝任意兼容硬體的AI模型不同，目前Mac版Google AI Edge Gallery僅提供谷歌自家的5個模型，其中"it"代表"instruct"（指令微調），意味著這些模型經過調整，能夠遵循用戶指令，而不僅僅是完成文本續寫。
其中最值得關注的是列表首位的Gemma 4 12B，該模型於今日正式發布。谷歌表示，它"專為將智能體、多模態能力直接帶到筆記本電腦而設計"。
目前頂尖AI實驗室面向消費者的本地模型參數量通常在20億至90億之間，而谷歌稱Gemma 4 12B擁有120億參數，性能可媲美其260億參數的混合專家模型，同時"小到足以在配備16GB內存的消費級筆記本電腦上本地運行"。
Gemma 4 12B還支持多模態功能，可處理文本、視覺和音頻內容。谷歌表示，該模型同樣具備出色的編程能力，"讓你直接在設備上從數據中提取有價值的洞察"。
與Gemma 12B及Mac版Google AI Edge Gallery同步發布的，還有Google AI Edge Eloquent應用的Mac版本。該應用此前已於數月前登陸iOS平台。
Google AI Edge Eloquent是一款免費聽寫應用，能夠實時捕捉用戶語音並進行轉錄，同時對文本進行潤色，去除語氣詞和口頭禪，並對表達進行輕度編輯，使內容更加清晰流暢。整個處理過程在設備本地完成，無需上傳至雲端。
該應用還支持用戶選擇不同的寫作風格，並添加自定義詞彙，如人名、專業術語及常用詞語，從而有效避免聽寫應用對特定詞彙和短語產生頻繁誤校正的問題。
Q&A
Q1：Gemma 4 12B模型有哪些特點和優勢？
A：Gemma 4 12B是谷歌最新發布的本地運行模型，擁有120億參數，性能可媲美260億參數的混合專家模型。它支持多模態功能，能夠處理文本、視覺和音頻內容，同時具備較強的編程能力。該模型只需設備配備16GB內存即可在消費級筆記本電腦上本地運行，兼顧了性能與硬體門檻的平衡。
Q2：本地運行AI模型相比雲端模型有什麼優勢？
A：本地模型主要有三大優勢：第一，無需網路連接，完全依靠本機算力運行；第二，設備性能越好，響應速度越快，支持的模型規模也越大；第三，所有數據在本地處理，無需上傳至伺服器，隱私保護更有保障。雖然能力通常不及雲端大模型，但對於日常任務來說已經足夠實用。
Q3：Google AI Edge Eloquent是什麼，和普通聽寫應用有什麼區別？
A：Google AI Edge Eloquent是谷歌推出的一款免費Mac聽寫應用，核心特點是所有處理均在設備本地完成，不依賴雲端。它不僅能實時轉錄語音，還會自動去除語氣詞、潤色文本，提升表達的清晰度。用戶還可以設置不同寫作風格，並添加自定義詞彙，有效減少專有名詞和術語的誤識別問題。
