藍色巨人IBM 18日公告,和處理器大廠AMD完成合作,IBM Cloud部署AMD Instinct MI300X晶片。2025上半年推出,目標提升企業客戶生成式AI模型和高性能計算(HPC)應用性能和能效。
IBM表示,雙方合作Watsonx AI與數據平台及Red Hat Enterprise Linu的AI推理,集成支持MI300X晶片。IBM Cloud將提供AMD Instinct MI300X晶片運算服務,以支持企業客戶處理計算密集型任務。
IBM MI300X晶片配備192GB高帶寬內存(HBM3),支持大模型推理微調,幫助客戶以更少GPU運行更大模型,降低推理成本。雙方利用IBM Cloud安全性與合法性,以支持各產業企業客戶,尤其受嚴格監管的企業。
數據中心AI晶片仍以x86架構為大宗,少部分Arm架構處理器,IBM POWER系列也是小部分。IBM旗下AI伺服器主流搭載2021年三星7納米EUV製程的Power10處理器,與Power9相比,Power10核心性能高2.5倍,處理相同工作負載能耗減少33%。
雖然IBM Power10處理器伺服器,搭配IBM軟體與網路架構,還能應對企業級運算需求,但上升到數據中心層面,加上AI晶片都進展到5-4納米甚至3納米,Power10就力不從心,才催生IBM Power11處理器與IBM Spyre Accelerator AI晶片2025年推出。在此之前,IBM為了滿足客戶需求,才與AMD合作,IBM Cloud提供AMD Instinct MI300X晶片運算服務。
(首圖來源:Flickr/Open Grid Scheduler/Grid EngineCC BY 2.0)