宅中地 - 每日更新
宅中地 - 每日更新

贊助商廣告

X

AMD發布ROCm 6.2更新:讓新一代AI和HPC的性能得以充分釋放

2024年08月08日 首頁 » 熱門科技

AMD宣布,對ROCm軟體棧進行了更新,推出了新的疊代版本ROCm 6.2,鞏固了作為人工智慧和高性能計算開發平台的領先地位。這一新版本里,AMD在性能、效率、可擴展性方面都做了提升,無論從事前沿AI模型的研究、新一代人工智慧應用的開發,或是複雜的優化模擬,都能從中獲益。

 

AMD發布ROCm 6.2更新:讓新一代AI和HPC的性能得以充分釋放

 

ROCm 6.2共有五大核心功能提升,包括:

  • 擴展了專為大語言模型(LLMs)所設計的vLLM的支持,提升了AMD Instinct系列加速器的AI推理能力;
  • 對ROCm中的Bitsandbytes量化技術支持,提升了AMD Instinct系列的AI訓練和推理能力,增強內存效率與性能;
  • 通過全新的離線程序創建工具,簡化了ROCm的安裝過程;
  • 全新的Omnitrace和Omniperf性能分析工具(Beta版),從而在AMD ROCm中引領AI(人工智慧)與HPC(高性能計算)開發的變革;
  • 更加廣泛的FP8(數據處理方式)支持,通過使用ROCm 6.2增強了AI推理能力。
AMD表示,通過ROCm 6.2再次展示了其為人工智慧和高性能計算領域提供強大、有競爭力且富有創新性解決方案的承諾,開發人員擁有了突破邊界所需的工具和支持,開發人員可以將項目提升至前所未有的性能和效率水平。
宅中地 - Facebook 分享 宅中地 - Twitter 分享 宅中地 - Whatsapp 分享 宅中地 - Line 分享
相關內容
Copyright ©2025 | 服務條款 | DMCA | 聯絡我們
宅中地 - 每日更新