英偉達近日公布Nemotron 3.5 Bolt系列兩款新模型,分別面向本地個人智能體和遊戲內AI NPC。高端型號Nemotron 3.5 Bolt 74B A9B採用混合專家架構,總參數740億,推理時僅激活約90億參數,並通過2bit量化壓縮至約24GB,適配RTX Spark設備。該模型計劃於10月15日發布,支持llama.cpp、Ollama、vLLM、LM Studio等主流推理環境,可用於後台數據監控、任務調度、API調用等常駐智能體場景。


另一款Nemotron 3.5 Bolt E4B為更輕量的對話模型,定位為NVIDIA ACE遊戲角色的第三代小語言模型,參數規模約40億,重點優化實時對話延遲。該模型將於10月23日發布,並計劃通過SkyrimNET平台接入《上古卷軸5:無界天際》,讓NPC能夠根據玩家行為進行上下文對話。

目前官方尚未披露E4B在遊戲內實際表現、本地硬體門檻及後續是否支持更多作品。對於關注遊戲AI和NPC交互的玩家來說,這套方案值得關注。






