英偉達近日公布Nemotron 3.5 Bolt系列兩款新模型，分別面向本地個人智能體和遊戲內AI NPC。高端型號Nemotron 3.5 Bolt 74B A9B採用混合專家架構，總參數740億，推理時僅激活約90億參數，並通過2bit量化壓縮至約24GB，適配RTX Spark設備。該模型計劃於10月15日發布，支持llama.cpp、Ollama、vLLM、LM Studio等主流推理環境，可用於後台數據監控、任務調度、API調用等常駐智能體場景。
另一款Nemotron 3.5 Bolt E4B為更輕量的對話模型，定位為NVIDIA ACE遊戲角色的第三代小語言模型，參數規模約40億，重點優化實時對話延遲。該模型將於10月23日發布，並計劃通過SkyrimNET平台接入《上古卷軸5：無界天際》，讓NPC能夠根據玩家行為進行上下文對話。
目前官方尚未披露E4B在遊戲內實際表現、本地硬體門檻及後續是否支持更多作品。對於關注遊戲AI和NPC交互的玩家來說，這套方案值得關注。
