
xAI開始運用所謂「曼菲斯超級集群」訓練更強大的Gork模型,馬斯克(Elon Musk)也在X(前身為Twitter)分享採用自研Dojo晶片的超級電腦照片。
除在美國田納西州曼菲斯構建xAI的超級電腦外,馬斯克表示2024年底前將激活Dojo D1晶片,預估整體將提供約8,000個NVIDIA H100 GPU的處理能力。
馬斯克2021年首次發布Dojo D1晶片,其性能目標為322 TeraFLOPS的算力。2023年8月,特斯拉被發現正在招聘一名數據中心資深工程項目經理,這通常是一個組織在規劃自家數據中心時先採取的重要步驟。特斯拉也在接下來一個月將Dojo D1訂單增加一倍,可見對新晶片性能具有信心。
到了2024年5月,台積電證實特斯拉次世代Dojo訓練模塊開始生產。如今看來Dojo晶片似乎已經運抵美國,馬斯克在X分享自家數據中心的Dojo超級電腦照片。
Dojo picspic.twitter.com/Lu8YiZXo8c
— Elon Musk (@elonmusk)July 23, 2024
馬斯克分享自家數據中心的Dojo超級電腦照片。
特斯拉設計的Dojo超級電腦,將25顆Dojo D1晶片排列為5×5矩陣,晶片使用7納米製程,能容納500億顆電晶體,提供362 TeraFLOPS的算力;並使用台積電的集成扇出型(Integrated Fan-Out,InFO)封裝技術互聯,比起類似的多處理器機器執行上更有效率。
曼菲斯所構建的超級電腦由xAI擁有,主要用於訓練Grok模型。而Dojo晶片更適合AI機器學習和形象訓練,特別是將電動汽車收集而來的形象數據,訓練特斯拉的全自動駕駛技術。
馬斯克曾在特斯拉財報電話會議表示,由於NVIDIA GPU定價高,他將加倍投入Dojo晶片開發和部署。
馬斯克指出,當旗下公司所有晶片結合起來時,預計2024年底,他將擁有90,000個NVIDIA H100 GPU、40,000個AI4(Artificial Intelligence 4),以及自研Dojo晶片。
(首圖來源:shutterstock)