宅中地 - 每日更新
宅中地 - 每日更新

贊助商廣告

X

人人可享的超算力,Dell Pro Max with GB10讓AI算力觸手可及

2025年08月15日 首頁 » 熱門科技

深夜的辦公室里,你盯著螢幕,等待模型推理的進度條一點點挪動。哪怕只是微調一個七百億參數的模型,也要耗掉好幾個小時,更別提兩百億級別以上的大模型推理。想在數據安全有保障,同時成本可控的前提下高效運行大模型,成了一道幾乎無解的難題。

今年,Dell Pro Max with GB10帶著一種不同的解法出現了。它把過去只能在數據中心才能用到的Grace Blackwell架構壓縮進一本字典大小的機身里,讓高達1000 TOPS的AI算力第一次以「掌上超算」的形態走進日常辦公環境。對於那些既要本地運行、又要靈活部署AI模型的用戶來說,這是一種全新的可能。

人人可享的超算力DellProMaxwithGB10讓AI算力觸手可及

小體積里的大算力

Dell Pro Max with GB10採用了NVIDIA今年在GTC上首次亮相的Grace Blackwell架構,將CPU與GPU深度融合,通過NVLink C2C實現高速互聯與統一內存。128GB的高帶寬共享內存,讓它在運行大模型時幾乎不受容量限制。戴爾科技集團大中華區客戶端解決方案事業部資深產品經理汪志軍提到,這台機器的AI算力可達1000 TOPS,能夠在本地運行規模達到兩千億參數的模型,而過去,這樣的任務幾乎只能交給機房裡昂貴的伺服器來完成。

這種高性能與小尺寸的結合,意味著AI使用者可以擺脫笨重設備的束縛,把強大的計算能力帶到辦公室、教室,甚至邊緣應用場景中。對於需要本地推理、對數據隱私有嚴格要求的行業來說,這樣的設計尤為重要,因為所有的計算和數據處理都可以在用戶的掌控範圍內完成。

這台機器並不只是一台「縮小版」的伺服器,它的設計初衷是讓AI計算融入更多日常與專業場景。用戶可以像連接外接顯卡一樣,將它接入筆記本或台式機,為主機提供額外的AI算力,也可以把它當作獨立電腦使用,配上鍵盤和顯示器直接進行開發或教學工作。

在工業、機器人、自動駕駛等需要邊緣AI推理的領域,Dell Pro Max with GB10的優勢更加明顯。它可以被直接嵌入到生產線、設備或自動化系統中,成為實時推理和決策的「大腦」。汪志軍表示,在醫療影像診斷、金融風控、智能客服等需要快速響應的業務中,Dell Pro Max with GB10不僅能完成模型推理,還能根據需求進行七百億參數規模的模型微調。這種靈活性讓它既能滿足原型開發的探索階段,也能勝任落地部署的嚴苛要求。

從機房到桌面,AI算力的遷移

過去,AI研發往往從數據中心起步,集中化的大算力平台支撐著大模型的訓練與推理。但隨著行業需求的變化,越來越多的企業希望擁有能夠在本地運行的私有化模型。這不僅關乎數據安全,也與響應速度和成本優化有關。戴爾科技將GB10這樣的數據中心級晶片引入桌面端,正是看準了這一趨勢。

汪志軍回顧稱,如今的應用正在從「共享大模型」轉向「定製化小模型」,並趨向在具體場景中落地。無論是公共服務、醫療、建築還是媒體行業,用戶都傾向於使用更貼合自身業務的模型,而這些模型的運行平台,往往不需要動輒幾台機櫃的設備。一台桌面級甚至便攜的AI工作站,正好契合這種變化。

儘管Dell Pro Max with GB10繼承了NVIDIA在AI加速方面的核心優勢,戴爾科技依然在硬體設計上做了不少優化。例如機身採用全金屬材質,並在散熱系統上進行重新設計,機身前面板布滿精細的散熱孔,確保在高負載狀態下仍能保持穩定性能。兩條200G的ConnectX-7高速接口可以讓兩台Dell Pro Max with GB10直接互聯,組成一個更強大的算力節點。在FP4精度下,雙機協作可支持多達四千億參數規模的大模型推理,這一性能對於桌面級設備來說相當罕見。

連接方式的豐富性也是一大亮點。無論是高速有線網路、Wi-Fi 7無線連接,還是多種Type-C數據接口,Dell Pro Max with GB10都提供了足夠的擴展性,方便開發者快速接入各種外設與數據源。存儲方面,用戶可以選擇2TB或4TB的高速硬盤,以適應不同規模的數據集和模型文件。

軟體生態與「開箱即用」

AI開發的門檻往往不在硬體,而在軟體環境的搭建上。傳統的AI工作站在交付後,用戶需要自行安裝作業系統、驅動、框架與開發工具,這一過程不僅耗時,還容易出現兼容性問題。Dell Pro Max with GB10則預裝了基於Ubuntu深度定製的DGX OS 7,以及NVIDIA AI Enterprise套件,涵蓋了從模型開發、調優到部署的完整流程。

汪志軍用「智能廚房」來形容這套系統:硬體配置就像已經裝好的灶台與烤箱,軟體環境則像準備好的鍋碗瓢盆和調料,開發框架與容器就是菜單模板,用戶只需要把「食材」——即數據和模型——放進去,就能迅速產出可用的AI應用。這種即插即用的體驗,顯著縮短了從創意到落地的時間。

雖然GB10屬於Dell Pro Max系列,但它與傳統的公共工作站在定位和架構上有明顯差別。傳統工作站通常基於x86架構,具備更強的擴展性和可定製性,適合超大規模的訓練任務。而GB10基於Arm架構的Grace CPU,強調固定配置的高度集成,重點面向推理和輕量訓練。這種定位讓它能夠在功耗、體積和部署便捷性上占據優勢,同時避免了傳統工作站在某些場景下的資源浪費。

在兼容性方面,戴爾科技採取了開放生態策略,不強制預裝特定應用,而是通過認證和測試確保主流AI軟體在設備上的穩定運行。這意味著企業可以根據自身需求選擇合適的軟體棧,同時享受戴爾科技提供的三至五年企業級售後支持。

面向未來的AI PC

Dell Pro Max with GB10並不僅僅是一款單一產品,它被視為戴爾科技在AI PC戰略中的前端節點。通過與NVIDIA的緊密合作,戴爾科技不斷引入最新架構的處理器和GPU,將數據中心級的計算能力持續帶到桌面端和邊緣端。在未來的AI生態中,Dell Pro Max with GB10這樣的設備有望成為研發與應用之間的橋樑,讓AI不再局限於大型機房,而是觸手可及。

汪志軍最後強調,AI的發展節奏非常快,適應這種變化的最佳方式,是讓硬體與軟體的結合儘可能靈活與開放。Dell Pro Max with GB10的出現,就是要為開發者、科研人員、企業團隊提供這樣一個平台——小巧而強大,穩定而高效,可以從今天的模型推理一路伴隨到明天的應用創新。

宅中地 - Facebook 分享 宅中地 - Twitter 分享 宅中地 - Whatsapp 分享 宅中地 - Line 分享
相關內容
Copyright ©2025 | 服務條款 | DMCA | 聯絡我們
宅中地 - 每日更新