宅中地 - 每日更新
宅中地 - 每日更新

贊助商廣告

X

NVIDIA DGX Spark推出64GB版本, 4999美元,讓本地AI多一個選擇

2026年10月08日 首頁 » 熱門科技

一年前,DGX Spark開始陸續出現在開發者的桌面上,NVIDIA給它的定位,是讓每一位開發者桌上都有一台AI超級電腦,學生、獨立開發者、AI愛好者都能在本地完成推理、微調、數據科學等工作。

一年過去了,桌面AI的使用方式也同步發生了變化,越來越多的開發者開始在本地運行智能體和中等規模的開源模型。

這種變化,首先來自代理式 AI,OpenClaw、Hermes等智能體框架也在快速走紅。OpenRouter的數據顯示,智能體已占到該平台80%的Token用量,每月消耗約27萬億Token,約為其他AI應用的4.5倍。智能體大量生成Token,也大量消耗Token,如果把一整個代碼庫交給智能體處理,輸入端的Token量就相當可觀。

與此同步發生的,是小模型在快速逼近前沿模型,半年前只有前沿模型才有的智能水平,如今在桌面上就能跑出來。NVFP4量化、新的模型架構、KV緩存效率提升和投機解碼等技術,正在讓本地模型變得更聰明,也跑得更快。

而且,出於數據隱私和Token成本的考慮,越來越多的用戶開始把一部分工作放回本地,這也帶動了DGX Spark和OEM廠商GB10系統的需求持續增長。

對於開發者而言,本地AI的價值,在於能夠自主決定哪些數據留在本地、哪些任務交給雲端。代碼庫、內部文檔這類敏感數據可以在本地處理,長時間運行的智能體也不必為每一次調用支付雲端Token費用,只把真正需要前沿模型的任務交給雲端,整體成本和數據安全都更可控。

面向這批用戶,NVIDIA近日推出DGX Spark 64GB版本,該產品將於10月23日起通過宏碁、華碩、戴爾、技嘉、惠普、微星等OEM合作夥伴上市,起售價4999美元。

NVIDIADGXSpark推出64GB版本4999美元讓本地AI多一個選擇

由OEM合作夥伴推出的DGX Spark 64GB系統(圖片截取自NVIDIA官網)

值得注意的是,這一版本由OEM合作夥伴獨家提供,4999美元起售價對應2TB儲存配置,各家OEM還會推出不同的儲存和外觀設計。

128GB版DGX Spark Founders Edition繼續在售,定價為6950美元,兩檔記憶體配置可以覆蓋不同規模的開發需求。OEM合作夥伴擁有良好的供貨能力,開發者可以通過各家渠道選購適合自己的機型。

01  同一顆GB10

64GB版本與128GB版本採用同樣的GB10超級晶片,CPU、AI算力、273GB/s的記憶體頻寬,以及ConnectX-7網路均與128GB統一記憶體版本保持一致,區別只在記憶體容量。

在實際測試中,單台64GB版本與單台128GB版本運行Qwen3.8 27B模型時,推理性能基本一致。這意味著,只要模型能夠完整裝入64GB記憶體,用戶以更低的入門價格,就能獲得與128GB版本相同的推理表現。

平台一致,也意味著軟體和生態完全通用。DGX Spark預裝NVIDIA AI軟體棧,從底層的CUDA和CUDA-X AI,到NVIDIA Agent Toolkit、Nemotron模型、Cosmos、Metropolis以及NVIDIA AI Enterprise,再往上是OpenAI、Meta、Mistral AI、Qwen、ComfyUI、vLLM、Anaconda等眾多生態夥伴提供的模型、框架和工具,開發者在64GB版本上可以直接沿用這套環境。

02  裝得下主流模型,也預留了上下文空間

單台DGX Spark 64GB可支持最高1000億參數的模型,系統約占用8GB,剩餘約56GB可用於模型權重和KV緩存。在NVFP4的4比特量化下,Gemma 4 26B-A4B約占15GB,Qwen3.8 27B約占16.5GB,Qwen3.6 35B-A3B約占21GB,裝下模型後仍有35GB至41GB的空間留給KV緩存,足以支撐較長的上下文輸入。

KV緩存可以理解為模型的「短期記憶」,上下文越長、並發越多,所需的KV緩存就越大。對於智能體而言,一次任務往往要讀入大量代碼、文檔和工具返回結果,留給KV緩存的空間越充裕,智能體能處理的上下文就越長,這也是64GB版本在裝下模型之外,還要保證足夠餘量的原因。

主流開源模型在DGX Spark 64GB上的記憶體占用(圖片截取自NVIDIA官網)

這背後,是NVIDIA對DGX Spark軟體棧的持續優化。NVIDIA與模型廠商合作,讓Qwen3.8 27B、LTX 2.5、Meta Muse Glimmer、Gemma 4、Poolside Laguna S 2.1、Thinking Machines Lab Inkling-Small等新模型在發布首日即可在DGX Spark上運行,藉助llama.cpp和vLLM,本地智能體速度最高提升1.9倍。Perplexity推出的Portable Computer Agent,首個可在本地運行模型的版本也選擇在DGX Spark上發布。

對於早期購買DGX Spark的用戶而言,這些優化同樣適用,機器會隨著軟體更新越跑越快。對於以推理、智能體開發和LoRA微調為主的用戶而言,64GB是一個合適的起點,如果需要處理更大模型或全量微調,則可以選擇128GB版本。

03  先買一台,再加一台

隨著工作負載變大,用戶還可以通過ConnectX-7把多台DGX Spark連成集群。NVIDIA的測試顯示,兩台64GB組成集群後,運行Qwen3.8-27B-NVFP4的吞吐量是單台的1.7倍,算力從1 PFLOPS提升到2 PFLOPS,等效記憶體頻寬也從273GB/s翻倍到546GB/s。

兩台DGX Spark 64GB組成集群後,性能提升至單台的1.7倍

這意味著,用戶可以先用一台64GB滿足當下需求,之後再按需加一台,以漸進的投入換取更高的性能。

而且按照這套上升邏輯,4台64GB版本可組成256GB記憶體的集群,4台128GB版本則可擴展到512GB,記憶體頻寬超過1000GB/s。如果需要更強的單機性能,還可以選擇DGX Station。

此外,為降低組網門檻,NVIDIA在NVIDIA Sync中提供了一整套管理工具。開發者可以從筆記本或台式機遠程連接DGX Spark,通過遠程儀錶盤查看系統狀態,並接入Cursor、VS Code、AI Workbench等常用開發環境。其中的Cluster Assistant可自動配置最多4台DGX Spark的ConnectX-7網路,無需手動編寫配置文件。

10月底,Sync還將上線Model Launcher,用於在單機或集群上直接啟動帶模型的vLLM容器,從組建集群到把模型跑起來,所需時間會進一步縮短。

從128GB到64GB,再到多機集群和DGX Station,NVIDIA的桌面AI產品線正在覆蓋從入門到進階的不同需求。對於想在本地跑智能體和中等規模模型的開發者而言,DGX Spark 64GB提供了一個更輕量的起點,也讓「每個開發者擁有一台AI超算」這件事,更近了一步。

宅中地 - Facebook 分享 宅中地 - Twitter 分享 宅中地 - Whatsapp 分享 宅中地 - Line 分享
相關內容
Copyright ©2026 | 服務條款 | DMCA | 聯絡我們
宅中地 - 每日更新