甲骨文已與谷歌達成合作，將後者的張量處理單元（TPU）引入甲骨文雲基礎設施（OCI），為企業客戶提供除GPU之外的另一種選擇，用於訓練和推理工作負載，且無需將工作負載運行在谷歌自己的雲平台上。
這一交易於周二在拉斯維加斯舉行的甲骨文AI World大會上公布，雙方在聯合聲明中表示，這是谷歌TPU首次通過另一家超大規模雲服務商對外提供。
根據協議，甲骨文將提供部署TPU所需的數據中心基礎設施，包括電力、散熱和網路等。
HyperFrame Research AI技術棧業務負責人史蒂芬妮·沃爾特表示，隨著企業在訓練大型AI模型和大規模運行推理任務時面臨日益上升的成本和基礎設施需求，尋求GPU以外的替代方案，加入TPU將拓展甲骨文客戶的算力組合。
沃爾特補充說，推理工作負載尤其可能從中受益，因為它在企業中占據了最大份額的算力消耗："推理是每天都會遇到的挑戰。每當員工使用AI助手，或智能體調用模型時，都會消耗算力。"
她進一步指出，這主要是因為像TPU這樣的專用加速器，相比設計用於處理更廣泛計算任務的GPU，能夠根據模型架構、工作負載和軟體棧的不同，提供不同的性能和效率優勢。
不過，僅僅獲得晶片的使用權並不能決定部署的經濟性。
"企業可能已經圍繞不同的加速器構建了模型、工具和技能體系。在切換之前，它需要了解哪些內容可以在TPU上運行，哪些需要改動，以及維護這些改動需要付出多少努力。如果開發和運營成本超過了節省的費用，那麼更低的基礎設施價格就算不上真正的優惠，"沃爾特說。
通常情況下，谷歌的TPU面向機器學習工作負載，包括大模型訓練、後訓練及推理。該晶片還可支持對推理能力要求較高、長上下文的應用場景，包括那些圍繞AI智能體構建的應用，這類智能體需要多次調用模型才能完成一項任務。
谷歌在自研AI晶片方面已投入超過十年的研發。其第八代TPU產品組合包括兩種架構：面向訓練的TPU 8t，以及面向推理的TPU 8i。
據該超大規模雲服務商介紹，TPU 8t每個Pod的計算性能可達上一代產品的近三倍，並能將前沿模型的開發周期從數月縮短至數周。另一方面，TPU 8i則專為處理多個專用AI智能體產生的疊代式工作負載而設計。
然而，雙方尚未披露定價、具體的OCI配置，或加速器上線時的初始容量。這些細節資訊將有助於企業評估這一新增的加速器選項，能否為其工作負載帶來實質性的成本或性能提升。
目前唯一可知的資訊是，甲骨文計劃在2027年內推出這些晶片，並在隨後的數年內逐步提升容量。甚至具體的上線日期也尚未公布。
