谷歌雲於周三宣布，其第八代定製AI晶片——張量處理單元（TPU）將分化為兩款獨立產品：一款名為TPU 8t，專為模型訓練設計；另一款名為TPU 8i，則主要面向推理場景。
所謂推理，指的是模型在部署後持續運行的過程，即用戶提交提示詞後系統所執行的操作。
與前幾代產品相比，谷歌為這兩款新TPU列出了一系列亮眼的性能指標：AI模型訓練速度最高提升3倍，每美元算力性能提升80%，並且支持超過100萬塊TPU在單一集群中協同工作。總體來看，新款晶片在能耗和客戶使用成本上均有望大幅低於前代產品。谷歌將這類晶片命名為TPU而非GPU，是因為其最初專為張量運算設計的低功耗晶片就沿用了"Tensor"這一命名。
不過，谷歌的晶片並不構成對英偉達
的全面衝擊，至少目前還不是。與微軟、亞馬遜等其他雲計算巨頭一樣，谷歌推出這些晶片的目的是補充其基礎設施中現有的英偉達體系，而非直接取而代之。事實上，谷歌承諾將在今年晚些時候在其雲平台上提供英偉達最新款晶片Vera Rubin。
從長遠來看，隨著企業將AI需求遷移至雲端、並將應用程序移植到自研晶片上，亞馬遜、微軟、谷歌等超大規模雲服務商對英偉達的依賴程度或許會逐漸降低。
但就眼下而言，押注英偉達失勢並不是明智之舉。知名晶片市場分析師派屈克·摩爾曾在X平台上半開玩笑地提到，他早在2016年穀歌推出第一款TPU時就預測該晶片將對英偉達和英特爾構成威脅。然而如今，英偉達的市值已接近5萬億美元，足以說明當年那個預測經不起時間的檢驗。
如果一切按照英偉達的計劃推進，谷歌作為AI雲服務提供商的成長反而會為這家晶片巨頭帶來更多業務，而非削減——即便眾多工作負載運行在谷歌自家晶片上，這一趨勢也不會逆轉。
值得一提的是，谷歌還宣布將與英偉達展開合作，共同優化電腦網路技術，使基於英偉達晶片的系統在谷歌雲中運行得更加高效。兩家科技巨頭具體合作的方向，是進一步強化名為Falcon的軟體定義網路技術。該技術由谷歌自主研發，並於2023年通過開源數據中心硬體領域的權威組織——開放計算項目（Open Compute Project）對外開源。
Q&A
Q1：TPU 8t和TPU 8i有什麼區別？
A：TPU 8t是谷歌第八代AI晶片中專為模型訓練設計的版本，追求高吞吐量的計算性能；TPU 8i則專注於推理場景，即模型部署後響應用戶請求的過程。兩款晶片針對不同的使用階段進行了定向優化，與前代產品相比，整體訓練速度提升最高達3倍，每美元性能提升80%，並支持超過100萬塊TPU組成單一集群。
Q2：谷歌推出自研TPU晶片，會取代英偉達嗎？
A：目前不會。谷歌推出TPU 8t和TPU 8i的目的是補充現有的英偉達基礎設施，而非直接替代。谷歌甚至承諾今年晚些時候將在雲平台上提供英偉達最新款晶片Vera Rubin，並與英偉達合作優化網路技術。從市場角度看，英偉達市值已接近5萬億美元，其地位短期內難以撼動。
Q3：谷歌和英偉達在Falcon網路技術上的合作是怎麼回事？
A：Falcon是谷歌自主研發的一種軟體定義網路技術，於2023年通過開放計算項目（Open Compute Project）正式開源。谷歌與英偉達合作的目標是在此基礎上進一步升級優化，使英偉達晶片在谷歌雲基礎設施中的運行效率得到顯著提升，實現兩家公司在AI基礎設施層面的協同。
