Red Hat發布了Red Hat OpenShift AI 2.15,這是一款企業級人工智慧與機器學習應用平台,可協助企業加速人工智慧技術的採用,並提升一致性。該新版本增加了模型註冊表與數據漂移偵測功能,並進一步支持跨混合雲環境的大規模人工智慧模型管理和部署。
Red Hat OpenShift AI 2.15的更新重點之一是添加模型註冊表預覽版。模型註冊表可供開發者集中管理已註冊的人工智慧模型,實現模型版本控制、共享、部署和關注。企業可通過該工具組織和管理生成式人工智慧模型的元數據和模型資產,並可選擇創建多重模型註冊表,以應對不同業務需求。目前Red Hat已經將該項目捐贈給Kubeflow社交媒體作為子項目,以進一步促進開源人工智慧社交媒體的發展。
數據漂移偵測功能也是OpenShift AI 2.15本次的更新重點。隨著人工智慧部署至生產環境,輸入的數據可能隨時間變化,而數據漂移偵測功能則可以持續監控輸入數據變動的情況,並在實際數據與訓練數據出現偏移時發出通知。該項設計可確保模型反應實際情況,避免因數據變化導致預測結果偏差,提升模型在生產環境的可靠性。
Red Hat OpenShift AI 2.15中的LoRA技術讓微調大型語言模型變得更省資源。LoRA的原理是降低微調模型的運算複雜度,讓企業可以更高效地調整像是Llama 3這類人工智慧模型,LoRA技術充分利用雲計算原生環境的彈性,優化模型訓練與微調過程,不僅提高了性能,也強化操作的靈活性。有了LoRA的加持,OpenShift AI 2.15能夠滿足不同規模的人工智慧工作負載需求,企業能以較低的成本和資源消耗進行模型微調。
此外,新版本還支持Nvidia NIM和AMD GPU集成,增加硬體加速的選項。Nvidia NIM提供了一組微服務界面,讓生成式人工智慧應用的部署更加簡單快速,並支持多樣化人工智慧需求。開發者只要通過API,NIM就能靈活地支持本地和雲計算環境的推論服務,實現高度可擴展性。
Red Hat OpenShift AI 2.15提供企業AMD GPU的支持,使開發者能夠在模型開發、訓練和微調過程使用AMD的GPU。新的硬體支持讓企業擁有更多選擇,而且也能提升處理高運算需求工作負載的能力,使人工智慧應用的開發與部署,在不同硬體環境更具彈性。