宅中地 - 每日更新
宅中地 - 每日更新

贊助商廣告

X

HPE與Nvidia合作開發AI優化的平台和服務

2023年12月01日 首頁 » 熱門科技

HPE正在調整自己的AI產品組合,近日宣布推出了一套新的混合雲產品,用於機器學習開發、數據分析、AI優化的文件存儲以及推理服務的調優。

HPE與Nvidia合作開發AI優化的平台和服務

HPE表示,這些服務將通過一個平台提供,該平台結合了開源軟體和基礎設施,專為AI模型訓練的數據需求而設計。

HPE計算部門總經理Neil MacDonald表示:「企業可以接受和探索的速度,以及他們對如何對部分業務運營進行轉型的實驗,是至關重要的。我們正在提供一種開箱即用的推理解決方案,使客戶能夠採用預先訓練好的模型並將其部署到環境中以轉型他們的企業運營,並且能夠比以前更快速地完成這一任務。」

超級計算的優勢

HPE表示將利用GreenLake平台提供以AI為中心的功能組合,包括數據優先管道、生命周期管理軟體、高性能互連、以及對第三方擴展的開放生態系統的支持。HPE表示,通過2019年收購Cray Research所獲得的超級計算專業知識,將讓HPE在這個市場中占據優勢。

HPE公司人工智慧首席產品官Evan Sparks表示:「你的DNA中需要具備超級計算能力,並且能夠擴展到大規模計算中,HPE已經在許多其他領域解決了這些問題。

HPE在本周舉行的Discover Barcelona大會上宣布與Nvidia擴大合作,提供由Nvidia構建的生成式AI專用計算平台,該平台將針對那些使用私有數據集和自定義軟體工具的AI模型的訓練和調整進行優化。

該平台基於HPE ProLiant DL380a硬體,預配置了Nvidia L40S GPU、BlueField-3數據處理單元和Spectrum-X以太網網路,其規模可調優一個配置16台伺服器、64個GPU以及具有700億個參數的Llama-2模型。它將配備增強型HPE Machine Learning Development Environment,具有用於原型設計和測試的生成式AI工作室功能,以及具有GPU感知功能的HPE Ezmeral軟體。

此外還包括了Nvidia的企業運輸局軟體堆棧,用於安全且可管理的AI開發和部署,以及用於模型定製和部署的Nvidia NeMo雲原生框架。

新型應用

Nvidia公司企業計算副總裁Manuvir Das表示:「生成式AI催生了一種新型的企業應用,這種應用使用AI嵌入模型將數據倉庫中的數據轉換為嵌入,這是資訊含義的一種表示。然後,你使用矢量資料庫來存儲這些嵌入,以便可以與數據進行對話,找到庫中最能代表答案的所有資訊,並將其轉化為提示內容以提供給大型語言模型。」

以AI為中心的基礎設施將包括用於文件存儲的GreenLake,這是一個針對模型訓練和調整進行微調的全閃存非結構化數據平台。該平台的性能密度是現有GreenLake文件存儲的2倍,吞吐量和與Nvidia Quantum-2 InfiniBand網路平台的連接性是現有GreenLake文件存儲的4倍。

HPE Machine Learning Development Environment現在也已經作為一項管理服務用語模型訓練了。HPE表示,該服務降低了模型開發的操作複雜性和人員需求,並具有用於原型設計和測試的生成式AI專有工作室功能。

用於軟體容器的HPE Ezmeral平台得到了增強,現在支持針對GPU優化的混合數據湖倉,並支持NFS文件系統以及AWS S3兼容的對象存儲。此外,Machine Learning Development Environment集成了分析軟體,能夠提供增強的模型訓練和調整功能。

HPE Ezmeral軟體總經理Mohan Rajagopalan表示:「我們正在努力打造單一的管理平台體驗,以最大限度地利用和管理你的數據,無論這些數據位於何處。」

這款增強的產品針對跨工作負載的Nvidia GPU分配進行了優化,並提供了對第三方集成的訪問,包括用於數據記錄的開源Whylogs以及用於GPU加速查詢的Voltron Data框架。

HPE還表示,HPE的服務部門將提供廣泛的諮詢、培訓和部署服務,並由位於西班牙、美國、保加利亞、印度和突尼西亞的人工智慧和數據中心提供支持。從明年第一季度客戶可以開始訂購這些生成式AI產品和服務。

宅中地 - Facebook 分享 宅中地 - Twitter 分享 宅中地 - Whatsapp 分享 宅中地 - Line 分享
相關內容
Copyright ©2025 | 服務條款 | DMCA | 聯絡我們
宅中地 - 每日更新