1U-MGX-Rack_front4U-Delta-Next8U-Superblade-DLC8U-Delta-Next
Supermicro, Inc.為AI、雲計算、存儲和5G/邊緣領域的全方位IT解決方案製造商，推出可立即部署式液冷型AI數據中心。此數據中心專為雲計算原生解決方案而設計，通過SuperCluster加速各界企業對生成式AI的運用，並針對NVIDIA AI Enterprise軟體平台優化，適用於生成式AI的開發與部署。
通過Supermicro的4U液冷技術，NVIDIA近期推出的Blackwell GPU能在單一GPU上充分發揮20 PetaFLOPS的AI性能，且與較早的GPU相比，能提供4倍的AI訓練性能與30倍的推論性能，並節省額外成本。
配合此率先上市的策略，Supermicro近期推出基於NVIDIA Blackwell架構的完善產品系列，支持新型NVIDIA HGXB100、B200和GB200 Grace Blackwell Superchip。
Supermicro總裁暨首席執行官梁見後表示：「Supermicro在打造與部署具有機櫃級液冷技術的AI解決方案方面持續領先業界。數據中心的液冷配置設計可幾近免費，並通過能持續降低用電量的優勢為客戶提供額外價值。我們的解決方案針對NVIDIA AI Enterprise軟體優化，滿足各行各業的客戶需求，並提供世界規模級效率的全球製造產能。
因此我們得以縮短交付時間，更快提供搭配NVIDIA HGX H100和H200，以及即將推出的B100、B200和GB200解決方案的可立即使用型液冷或氣冷運算集群。從液冷板到CDU乃至冷卻塔，我們的機櫃級全方位液冷解決方案最大可以降低數據中心40%的持續用電量。」
在台北國際電腦展（COMPUTEX 2024）上，Supermicro展示了即將推出，並針對NVIDIA Blackwell GPU優化的系統，包括基於NVIDIA HGX B200的10U氣冷系統和4U液冷系統。
此外，Supermicro也將提供8U氣冷型NVIDIA HGX B100系統、NVIDIA GB200 NVL72機櫃（具有72個通過NVIDIA NVLink交換機互聯的GPU）與新型NVIDIA MGX系統（支持NVIDIA H200 NVL PCIe GPU與最新發布的NVIDIA GB200 NVL2架構）。
NVIDIA創辦人暨首席執行官黃仁勛表示：「生成式AI正在推動整個運算堆棧的重置，新的數據中心將會通過GPU進行運算加速，並針對AI優化。Supermicro設計了頂尖的NVIDIA加速運算和網路解決方案，使價值數兆美元的全球數據中心能夠針對AI時代優化。」
隨著大型語言模型（Large Language Model，LLM）的快速發展以及Meta的Llama-3和Mistral的Mixtral 8x22B等開源模型不斷推出，企業更容易取得並使用當今最先進的AI模型。簡化AI基礎設施並以最具成本效益的方式提供訪問能力，對於支持目前的快速AI變革至關重要。
Supermicro雲計算原生AI SuperCluster使即時訪問的雲計算便利性和可攜性之間得以連接，並通過NVIDIA AI Enterprise讓任何規模的AI項目，從評估測試階段順暢地進行到實際作業階段。這提供了能在任何地方運行並安全管理數據的靈活性，包括自架系統或地端大型數據中心。
隨著各界企業快速進行生成式AI的實驗性使用，Supermicro與NVIDIA密切合作，確保完善且靈活地從AI應用的實驗和評估試行推動至作業部署和大規模數據中心AI。此順暢流程是藉由NVIDIA AI Enterprise軟體平台的機櫃、集群級優化而實現，能使從初步探索至可擴展AI落地的過程更流暢無阻。
託管服務涉及基礎架構的選擇、數據共享和生成式AI策略管控。NVIDIA NIM微服務作為NVIDIA AI Enterprise的一部分，可在無缺陷情況下提供託管生成式AI和開源部署優勢。其多功能推論運行環境通過微服務，可加速從開源模型到NVIDIA基礎模型等各類型生成式AI的部署。
此外，NVIDIA NeMo可實現通過數據庋用、高端自訂和檢索增強生成（Retrieval-Augmented Generation，RAG）的定製模型開發，以實現企業級解決方案。與搭配NVIDIA AI Enterprise的Supermicro SuperCluster集成後，NVIDIA NIM能為可擴展、加速型生成式AI作業的部署提供最快途徑。
Supermicro目前的生成式AI SuperCluster產品包括：
Supermicro的SuperCluster支持NVIDIA AI Enterprise，其中包括NVIDIA NIM微服務和NVIDIA NeMo平台，能實現端對端生成式AI定製，並針對NVIDIA Quantum-2 InfiniBand以及具有每GPU 400Gb/s網速的新型NVIDIA Spectrum-X以太網路平台優化，可擴展到具有數萬個GPU的大型運算集群。
Supermicro即將推出的SuperCluster包括：
Supermicro的SuperCluster解決方案針對LLM訓練、深度學習以及大規模與大批量推論優化。Supermicro的L11和L12驗證測試及現場部署服務可為客戶提供無縫順暢體驗。客戶收到即插即用的可擴展單元後即可在數據中心輕鬆部署，進而更緩存得效益。
