隨著大型多模態AI模型（如文本與圖像處理）需求日益增長，AI訓練與推論的硬體需求也隨之提高。Google Cloud今日宣布，其第六代張量處理器 (TPU) Trillium正式全面上線。這款性能卓越的AI晶片專為滿足生成式AI時代的需求而設計，在性能和可持續發展性方面均達到優化。Trillium的性能比前一代提升4倍，能源效率更提高67%。
大型語言模型 (LLM) 的興起，例如Google最新的Gemini 2.0，需要強大的運算能力和專用硬體來有效處理訓練、微調和推論。Google早在十多年前就開始研發定製化的AI加速器TPU，以滿足AI工作負載日益增長的需求，為多模態AI發展鋪平道路。
Trillium TPU是Google Cloud AI超級電腦的關鍵組成部分，這款超級電腦採用性能優化的硬體、開放軟體、領先的機器學習框架和靈活的消費模式組成的集成系統。除了Trillium TPU正式上線外，Google Cloud也同步強化AI超級電腦的開放軟體層，包括優化XLA編譯器和JAX、PyTorch、TensorFlow等熱門框架，以在AI訓練、調整和服務方面實現規模化的領先性價比。此外，利用大量主機DRAM進行主機卸載等功能，可提供更高端的效率。AI超級電腦讓用戶能夠充分利用每個Jupiter網路結構中超過100,000個Trillium晶片的空前部署規模，其雙向帶寬高達13 PB/秒，能夠將單一分布式訓練作業拓展到數十萬個加速器。
Trillium TPU的主要提升：
Trillium TPU的應用：
AI21 Labs等客戶已採用Trillium，並更快地為其客戶提供有意義的AI解決方案。AI21 Labs首席技術官Barak Lenz表示：「在AI21，我們不斷努力提升Mamba和Jamba語言模型的性能和效率。作為TPU v4以來的長期用戶，我們對Google Cloud Trillium的能力印象深刻。規模、速度和成本效益方面的進步非常顯著。我們相信Trillium將在加速我們下一代複雜語言模型的開發方面發揮至關重要的作用，使我們能夠為客戶提供更強大、更易於使用的AI解決方案。」
Trillium是Google Cloud AI基礎架構的重大飛躍，為各種AI工作負載提供卓越的性能、可拓展性和效率。憑藉其使用世界一流的協同設計軟體拓展到數十萬個晶片的能力，Trillium使您能夠更快地實現突破並提供卓越的AI解決方案。此外，Trillium卓越的性價比使其成為尋求最大化AI投資價值的組織的經濟高效選擇。隨著AI領域的持續發展，Trillium證明了Google Cloud致力於提供尖端基礎架構，使企業能夠釋放AI的全部潛力。
