2023 年 5 月，Meta 推出了採用台積電 7nm 工藝的第一代自研 AI 訓練和推理晶片 MTIA v1，專為深度學習推薦模型而設計，這些模型正在改善其應用和技術的各種體驗。
近日，Meta 宣布推出了其專為 AI 工作負載設計的最新款定製晶片 MTIA v2，這標誌著 Meta AI 工具的性能改進，有助於為 Facebook 和 Instagram 上的推薦廣告模型提供支持。
MTIA 是為 Meta 對 AI 基礎設施不斷增長的投資的一部分。隨著 AI 工作負載對產品和服務變得越來越重要，這種效率將成為其為全球用戶提供最佳體驗的核心。MTIA v1 是提高 Meta 基礎設施計算效率的重要一步，能更好地支持軟體開發人員構建 AI 模型，以促進更好的用戶體驗。
Meta 表示公司下一代大規模基礎設施正在以 AI 為基礎進行建設，包括支持全新的生成式 AI 產品、推薦系統和先進的 AI 研究。隨著支持 AI 模型的計算需求隨著模型的複雜性而增加，他們預計這項投資將在未來幾年增長。
據悉，MTIA v2 採用台積電 5nm 工藝，每 PE 緩存從上一代的 128KB 增加到 384KB，頻率從 800MHz 提升到 1.35GHz，INT8 精度下的稠密算力達到上一代的近 3.5 倍，稀疏算力達到上一代的近 7 倍，達到 708TFLOPS。不過，MTIA v2 的面積變大了 13%，而功耗則增加到上一代的 3.6倍，達到 90W（上一代只有 25W）。
Meta 表示，MTIA 已部署在數據中心，現在正在為生產中的模型提供服務。
到目前為止的結果表明，該 MTIA 晶片可以處理低複雜度和高複雜度的排名和推薦模型，這是 Meta 產品的關鍵組成部分。與市售的 GPU 相比，MTIA 可以獲得更高的效率。
MTIA 將成為 Meta 為獨特 AI 工作負載構建和擴展最強大、最高效的基礎設施的長期路線圖的重要組成。
Meta 表示：「我們正在設計定製晶片，以便與現有的基礎設施以及未來可能利用的新的、更先進的硬體（包括下一代 GPU）配合工作。實現我們對定製晶片的雄心意味著不僅要投資於計算晶片，還要投資於內存帶寬、網路和容量以及其他下一代硬體系統。」
這家公司指出，目前有多個旨在擴大 MTIA 範圍的項目正在進行中，包括對 GenAI 工作負載的支持。
