馬斯克近日宣布,孟菲斯超級電腦集群(Memphis Supercluster)於當地時間凌晨4:20開始進行訓練,感謝xAI團隊、X團隊、英偉達及其支持公司所做的貢獻。
據馬斯克介紹,該集群配備了10萬個英偉達H100 GPU,採用液冷散熱,並使用單一的RDMA網路互連架構,是全世界最強大的AI訓練集群。
從GPU規模上來看,這一集群已經全面超越了最新Top500榜單上的任何一台超級電腦,包括世界上最強的Frontier(37888個AMD GPU)、Aurora(60000個Intel GPU)和微軟Eagle(14400個Nvidia H100 GPU)。
馬斯克還透露,其目標是「在今年12月前訓練出世界上最強大的人工智慧(Grok3)」,而孟菲斯超級電腦集群正是其實現這一目標的優勢所在。
在今年3月敲定協議後,這一「超級電腦工廠(Gigafactory of Compute)」幾乎是立即開工。上個月,經濟發展組織大孟菲斯商會也證實馬斯克旗下xAI全新「超級電腦工廠」正在籌備中。
為了達成這項協議,xAI已經口頭承諾將改善孟菲斯的公共基礎設施,以支持數據中心的發展,包括興建一個新的變電站和一個污水處理設施。
孟菲斯電力、天然氣和水務公司的首席執行官估計,xAI孟菲斯工廠每小時可能使用高達150兆瓦的電力,相當於10萬戶家庭所需電量,而XAI預計每天至少需要100萬加侖的散熱水。
孟菲斯市議會議員Pearl Walker上周表示:「民眾很害怕。他們擔心水資源可能出現問題,也擔心能源供應(出現問題)。」
實際上,早在5月份,xAI 就表示已獲得60億美元的資金用於AI開發。該公司目前為其孟菲斯超級計算站點發布了六個招聘資訊,職位包括光纖工頭、網路工程師和項目經理等。