AMD宣布,對ROCm軟體棧進行了更新,推出了新的疊代版本ROCm 6.2,鞏固了作為人工智慧和高性能計算開發平台的領先地位。這一新版本里,AMD在性能、效率、可擴展性方面都做了提升,無論從事前沿AI模型的研究、新一代人工智慧應用的開發,或是複雜的優化模擬,都能從中獲益。

ROCm 6.2共有五大核心功能提升,包括:
-
擴展了專為大語言模型(LLMs)所設計的vLLM的支持,提升了AMD Instinct系列加速器的AI推理能力;
-
對ROCm中的Bitsandbytes量化技術支持,提升了AMD Instinct系列的AI訓練和推理能力,增強內存效率與性能; -
通過全新的離線程序創建工具,簡化了ROCm的安裝過程; -
全新的Omnitrace和Omniperf性能分析工具(Beta版),從而在AMD ROCm中引領AI(人工智慧)與HPC(高性能計算)開發的變革; -
更加廣泛的FP8(數據處理方式)支持,通過使用ROCm 6.2增強了AI推理能力。