據報道，谷歌正在開發一款專門針對其Gemini系列大語言模型優化的新型晶片。
據The Information今日援引消息人士報道，該處理器的代號為"Frozen v2"。報道稱，與谷歌現有晶片相比，該晶片的每瓦性能預計將提升6至10倍。受此消息影響，谷歌母公司Alphabet的股價當日上漲1.5%。
現成晶片通常包含用戶並不需要的模組。以AI初創公司為例，若其購買了同時包含推理核心和渲染核心的顯卡，渲染核心往往會處於閒置狀態，導致資源浪費，降低AI項目的整體效率。
定製晶片可以有效解決這一問題。企業可以去除與自身工作負載無關的電路，從而降低製造成本；或者將這些電路替換為更適合特定應用場景的專用核心。
谷歌長期以來通過其公有雲平台提供名為TPU的定製AI晶片。最新一代的兩款產品TPU 8t和TPUi分別針對模型訓練和推理進行了專項優化。根據最新報道，谷歌計劃更進一步，專門針對Gemini模型的架構對即將推出的Frozen v2晶片進行深度優化。
據報道，谷歌預計將通過多種途徑實現顯著的效能提升。其中一個關鍵方向是減少運行Gemini所需的計算量；此外，該晶片還將降低數據移動開銷。
數據移動問題通常發生在神經網路規模超出顯卡板載內存容量時。此時，神經網路的部分參數需要儲存在片外儲存器中，顯卡須頻繁地在片外儲存與內部邏輯電路之間調度數據，從而拖慢整體處理速度。
谷歌可能通過為Frozen v2配備足夠大的片上內存來解決這一瓶頸，使Gemini模型完全在片上運行，從而徹底消除片外內存的數據交換需求。
Frozen v2預計將減少運行Gemini所需計算量，這也意味著該晶片可能支持一種名為"算子融合"的技術。這是一種被廣泛應用的AI加速技術，通過將多個獨立計算操作合併為單一計算步驟，從而提升運算速度。
谷歌現有的TPU通常以集群方式部署，並配合多種定製組件協同工作。例如，TPU 8i依賴名為光學電路交換機的定製設備來管理數據流向。預計谷歌也會確保Frozen v2與這些組件兼容，以避免對現有集群架構進行大規模重新設計。
據報道，谷歌計劃於2028年開始向其數據中心部署該晶片。
Q&A
Q1：谷歌Frozen v2晶片和現有TPU晶片有什麼區別？
A：Frozen v2是谷歌在現有TPU系列基礎上更進一步的定製化嘗試。現有的TPU 8t和TPUi分別針對訓練和推理進行了優化，而Frozen v2則直接針對Gemini模型的底層架構進行專項定製，預計每瓦性能比現有晶片提升6至10倍，同時通過減少計算量和降低數據移動開銷來大幅提升整體效率。
Q2：Frozen v2晶片如何解決數據移動帶來的性能瓶頸？
A：當神經網路規模超出顯卡板載內存時，模型參數需要儲存在片外儲存器中，晶片須頻繁在片外儲存與內部邏輯電路之間來回搬運數據，嚴重拖慢處理速度。Frozen v2計劃配備足夠大的片上內存，使Gemini模型可完全在晶片上運行，從而消除片外數據交換的需求，顯著提升推理速度。
Q3：谷歌Frozen v2晶片什麼時候會正式上線？
A：根據目前的報道，谷歌計劃於2028年開始將Frozen v2晶片部署到其數據中心。目前該晶片仍處於研發階段，具體的量產時間表和性能細節尚未正式對外公布。
