宅中地 - 每日更新
宅中地 - 每日更新

贊助商廣告

X

Nutanix為用戶提供一個方便使用ChatGPT的魔盒

2023年08月16日 首頁 » 熱門科技

Nutanix為用戶提供一個方便使用ChatGPT的魔盒

Nutanix推出了一款即插即用的交鑰匙GPT「魔盒」,供客戶在其超融合軟體平台上運行大型語言模型人工智慧工作負載。

GPT(Generative Pre-trained Transformer)是一種機器學習大型語言模型(LLM),它可以解釋文本請求和問題,搜索多個源文件,並通過文本、圖像、影片甚至軟體代碼輸出進行響應。受ChatGPT模型的啟發,世界各地的組織都在考慮採用LLM如何改善營銷內容創作,使聊天機器人更好地與客戶互動,為普通研究人員提供數據科學家的能力,並在這樣做的同時節省成本。

IDC基礎設施系統、平台和技術集團高級研究分析師Greg Macatee表示:「通過GPT-in-a-box,Nutanix為客戶提供了一個交鑰匙、易於使用的的人工智慧用例解決方案,為那些在生成式AI採用方面遇到困難的企業提供了更簡單的部署途徑。」

Nutanix希望通過構建一個軟體堆棧,包括Nutanix雲基礎設施、Nutanix文件和對象存儲,以及Nutanix AHV虛擬化管理程序和具有Nvidia GPU加速功能的Kubernetes(K8S)軟體,讓客戶更容易試用和使用LLM。其雲基礎設施本身就是一個軟體堆棧,包括公共或私有雲中的計算、存儲和網路、虛擬化程序和容器。據說,GPT魔盒可以從邊緣到核心數據中心部署並進行擴展。

GPU加速涉及Nutanix的Karbon Kubernetes環境,該環境支持Kubernete之上的GPU直通模式。它還沒有擴展到支持英偉達的的GPU Direct主機的處理器旁路協議,以實現GPU伺服器對存儲驅動器的直接訪問。

Nutanix產品管理高級副總裁Thomas Cornely表示:「Nutanix GPT魔盒是一款專為人工智慧準備的堆棧,旨在解決生成人工智慧採用方面的關鍵挑戰,並幫助加速人工智慧創新。」

我們已經詢問了「這個有見解的人工智慧就緒堆棧」一詞的含義,但尚未得到回覆。

Nutanix還提供服務,幫助客戶通過開源深度學習和MLOps框架、推理伺服器以及一組精選的LLM(如Llama2、Falcon GPT和MosaicML)來確定集群規模並部署其軟體。

數據科學家和機器學習管理員可以通過選擇應用程序、增強的終端UI或標準CLI來使用這些模型。GPT魔盒系統可以運行其他GPT模型,並通過使用從Nutanix文件或對象存儲訪問的內部數據對其進行微調。

讓Nutanix感到欣慰的是,最近的一項調查發現,78%的客戶可能會在Nutanix雲基礎設施上運行他們的AI/ML工作負載。這也印證了IDC上面的支持性引用。

Nutanix希望我們認識到通過其在以下方面的參與,它在AI和開源AI社區中具有可信度:

參與MLCommons(AI標準)諮詢委員會

共同創立並在定義ML存儲基準和醫學基準方面擔任技術領導

擔任雲原生計算基金會(CNCF)Kubeflow(MLOps)培訓和AutoML工作組的聯合主席

宅中地 - Facebook 分享 宅中地 - Twitter 分享 宅中地 - Whatsapp 分享 宅中地 - Line 分享
相關內容
Copyright ©2025 | 服務條款 | DMCA | 聯絡我們
宅中地 - 每日更新