宅中地 - 每日更新
宅中地 - 每日更新

贊助商廣告

X

Nvidia 推出 Project DIGITS:一款可放置於任何桌面的掌上型 AI 超級電腦

2025年01月08日 首頁 » 熱門科技
Nvidia 推出 Project DIGITS:一款可放置於任何桌面的掌上型 AI 超級電腦

Nvidia 公司正在通過即將推出的 Project DIGITS 讓其最強大的圖形處理單元變得人人可及。這款"個人 AI 超級電腦"由即將面世的 Nvidia GB10 Grace Blackwell 超級晶片驅動。

這款 AI 超級電腦於今天晚些時候在拉斯維加斯舉行的 CES 消費電子展上發布。Project DIGITS 計劃於 5 月推出,將為用戶提供 1 petaflop 的人工智慧計算性能,使研究人員、數據科學家和學生能夠在自己的辦公桌上獲得通常只有大型企業才能使用的性能。它將支持先進大語言模型的原型設計、訓練和微調,以及推理,使任何人都能夠開發出可以媲美 ChatGPT 等應用程序功能的人工智慧系統。

Nvidia 即將推出的 GB10 超級晶片是一款系統級晶片,由其最先進的 GPU——Nvidia Grace Blackwell 驅動。它具備運行大規模 AI 項目所需的所有支持組件,包括數十個 CUDA 核心和第五代 Tensor 核心,這些核心通過公司的晶片間互連技術 NVLink 與同樣高性能的 Nvidia Grace 中央處理器相連。

據 Nvidia 稱,GB10 超級晶片使 Project DIGITS 超級電腦能夠通過標準筆記本電腦或 PC 為任何人提供巨大的 AI 計算資源。每台機器將提供 128 GB 的統一、一致內存和高達 4 TB 的 NVMe 存儲。這足以運行一個擁有 2000 億參數的大語言模型,這意味著用戶將能夠構建和試驗超越 OpenAI 的 GPT-3 模型(擁有 1750 億參數)能力的大語言模型。

對於需要更強大性能的用戶,可以使用 Nvidia 的 ConnectX 網路技術將兩台 Project DIGITS AI 超級電腦連接在一起,以支持多達 4050 億參數的模型。

Nvidia 聯合創始人兼首席執行官黃仁勛 (如圖,手持 GB10 超級晶片和 AI 超級電腦) 在 CES 主題演講中表示,Project DIGITS 的目標是讓先進 AI 開發工具更容易獲得,使每個人都能參與構建未來。他解釋說,目標是為數百萬開發者提供負擔得起的 Grace Blackwell 超級晶片。

不過,可能仍有數百萬開發者被排除在外,因為 Project DIGITS 機器的起價為 3,000 美元,並不能真正稱得上"便宜"。但黃仁勛似乎認為會有許多 AI 開發者願意支付這樣的價格。

黃仁勛說:"在每個數據科學家、AI 研究人員和學生的辦公桌上放置一台 AI 超級電腦,將使他們能夠參與並塑造 AI 時代。"

開發者們將能夠在 Project DIGITS 上創建、微調和測試他們的模型,然後將它們部署到 Nvidia DGX Cloud 平台、加速雲實例或自己的本地數據中心基礎設施上。

為了幫助使用 Project DIGITS 的開發者,公司還為他們提供了一個廣泛的 AI 開發工具庫,包括軟體開發套件、框架和預構建的 AI 模型,這些都可以在 Nvidia 開發者門戶的 Nvidia NGC 目錄中找到。

此外,公司還提供了一些"AI 藍圖",以及免費訪問其 NIM 微服務的權限,這些都可以在同一開發者門戶中找到。

圖片:Nvidia/直播

宅中地 - Facebook 分享 宅中地 - Twitter 分享 宅中地 - Whatsapp 分享 宅中地 - Line 分享
相關內容
Copyright ©2025 | 服務條款 | DMCA | 聯絡我們
宅中地 - 每日更新