前一段時間,AMD推出了ROCm 6.0,已支持Radeon PRO W7800和RX 7900 GRE顯卡,意味著所有搭載Navi 31 GPU的桌面顯卡和工作站顯卡已得到完全支持,另外也支持最新的Instinct MI300系列計算卡。同時還通過支持ONNX Runtime,來補充其解決方案堆棧。
據Phoronix報道,AMD加快了ROCm軟體棧持續更新的頻率,新的疊代版本ROCm 6.1即將到來,帶來增強的支持和廣泛的優化更改,特別是針對人工智慧(AI)領域的計算能力。
通過提交的資訊,可以了解到ROCm 6.1將升級配備MIPOpen 3.1版本,為 conv_hip_igemm_group_fwd_xdlops 求解器(solver)引入基於人工智慧的參數預測模型,修復了現有版本的bug,並帶來了新的求解器。此外,AMD的圖形推理引擎MIGraphX已經支持FP8,並擴展了對大型語言訓練模型(LLM),比如Llama-2和Stable Diffusion 2.1的支持。
另外一個令人興奮的是AMD在HIP API的變化,旨在異構計算系統上實現編程及代碼可移植性。現在已附帶了一個新的「hipother」資源庫,用於保存非AMD平台的HIP後端實現。HIP是AMD的C 運行時API和核心語言,HIPIFY工具可幫助用戶將CUDA源轉換為HIP。最近一個代碼移植的場景,就是CUDA庫通過ZLUDA在ROCm平台上的使用。
AMD表示,在大型語言模型訓練方面,ROCm已經達到了與CUDA相當的軟體水平。