NVIDIA 开源 Nemotron 3.5：Super VL 与 Bolt 补齐从数据中心到边缘的智能体模型谱系

10 月 15 日，NVIDIA 通过官方博客（英文与中文同步）发布 Nemotron 3.5 Super VL，以及两款全新边缘模型 Nemotron 3.5 Bolt 74B-A9B 24GB 与 Nemotron 3.5 Bolt E4B 4GB。三款中 Super VL 与 Bolt 74B-A9B 已可下载使用，Bolt E4B 官方给出的上线时间是 10 月 23 日。同日 NVIDIA 开发者技术博客发布了 Super VL 的架构、后训练与评测细节。中文科技媒体（品玩、至顶网）在 10 月 20 日集中跟进，本文 10 月 17 日首发、10 月 21 日更新。

把这次发布放进家族谱系里看，脉络很清楚：Nemotron 3 一代从 2025 年 12 月的 Nano（300 亿）起步，2026 年 3 月补上 Super（1200 亿）、4 月补上多模态的 Nano Omni、6 月补上顶配推理的 Ultra（5500 亿）；Nemotron 3.5 这条线先由 8 月 11 日的 Lightning（30B-A3B）打开高吞吐执行层，10 月 15 日的 Super VL 与 Bolt 补上「多模态专用智能体」与「边缘本地」两块。官方博客的分工表述是：Lightning 处理高吞吐负载，Ultra 处理最复杂推理，Bolt 把智能带到边缘，Super VL 面向专用、始终在线的高容量智能体工作流。

换句话说，这次的重点不是又刷了一个榜，而是把「在哪跑」做成了型号维度：数据中心的一张卡、桌面的 24GB 显存、终端的 4GB 内存，各有一个官方优化过的开放权重模型。对做企业智能体的人来说，这比单纯的跑分更有决策价值——它决定了你能不能把工作负载留在自己的机房里。

证据边界先讲清楚：本文所有性能数字分为三类——标「官方称」的 NVIDIA 自评口径、标「Artificial Analysis」的第三方实测口径、以及「官方未披露」的空缺项。百器AI 没有下载权重、没有调用任何 API、没有跑任何基准，也没有做成本测算。

Nemotron 3.5 Super VL 是一个 1200 亿参数、每 token 激活约 120 亿的 MoE 模型，输入侧支持文本、图像、文档与视频，输出为文本。官方把它定位在「专用且始终在线的智能体」：指令遵循、工具调用、多步骤业务工作流与视觉理解这四件事要在一个模型里完成，从而不必在文本模型与视觉语言模型之间来回路由任务、传递上下文。

官方的规模叙事是这样的：与 NVIDIA 自己最大规模的推理模型（Nemotron 3 Ultra）相比，Super VL 的参数量约为其五分之一，精度「相近」。这句「相近」是厂商口径，没有给出逐项对照表，也未指明在哪些任务上、差距是多少。

官方给出的量化口径包括：单 GPU 上智能体任务的吞吐是同级别开放模型的 5 倍；在 Artificial Analysis Intelligence Index 的智能体任务上吞吐超过 600 TPS（图注标注为 Baseten 端点）；完成 10000 个任务的总时间快 4 倍（NVIDIA B200 上测）；CharXiv 图表推理 80.8%（官方对比对象是 Nemotron 3 Nano Omni 的 63%），接入 Python 代码解释后达 84%；Hermes Bench 63.44%（Ultra 56.33%）、LangChain Evals 87.05%（Ultra 84.3%）。这些全部标注为官方称。

第三方的位次更值得单独看。Artificial Analysis 给 Super VL 的智能指数是 26.5 分，称其为美国开源权重模型的最高分——超过 Thinking Machines 的 Inkling Small（25.7）、NVIDIA 自家 Nemotron 3 Ultra（23）与 Meta 的 Muse Glimmer（17）。但同一份榜单里，阿联酋的 K2 Horizon 375B A23B 是 31 分，中国的 MiMo-V2.6-Pro 是 46 分。所以「美国开源第一」和「开源第一」是两句话，引用时不要合并。

AA 还给出两个更有工程意义的数字：Super VL 每个智能指数任务平均输出 46k token，比前代 Nemotron 3 Super 的 114k 少约 60%，也比 K2 Horizon（52k）与 MiMo-V2.6-Pro（64k）省；在预发布的 DeepInfra NVFP4 端点上，10 万 token 输入时输出速度约 630 tokens/s、首 token 1.8 秒，是智能指数 ≥20 的模型中该长度下最快的一个。此外 NVFP4 权重与 BF16 的智能指数只差 0.1 分，量化几乎无损——这条对打算自部署的人最有参考价值。

Nemotron 3.5 Bolt 74B-A9B 24GB 是一个 740 亿参数、激活 90 亿的 MoE 模型，官方强调它采用原生 2-bit 量化，因此能装进 24GB 显存，并与其他应用并行运行——这是「本地跑智能体」能不能成立的关键约束：模型必须让出显存给别的软件。官方称它是 PinchBench 同级别开放模型中的第一名、BrowseComp 开放模型中的第二名。

第三方数据把它的位置说得更清楚。Artificial Analysis 给 Bolt 74B-A9B 的智能指数是 21.4 分，在 1000 亿参数以下模型中排第 4、在美国模型中排第 1；比 Nemotron 3 Super（12.8）高 8.6 分，而总参数量少 39%。与 Nemotron 3 Ultra 相比，它在 AutomationBench-AA（15.5% vs 3.0%）和 AA-Briefcase（912 vs 874 Elo）上领先，但在长上下文 AA-LCR（70% vs 79%）与 Humanity's Last Exam（25% vs 28%）上落后。

有一个容易被忽略的成本项：AA 记录 Bolt 每个任务要输出 82k token，是 Super VL（46k）的 1.8 倍、Ultra（28k）的 2.9 倍。本地跑虽然不付 API 费，但电费、时间与散热都是实打实的成本，token 效率低的模型在长任务里会显著拖慢体验。

Nemotron 3.5 Bolt E4B 4GB 则是另一个极端：官方说它面向 GeForce RTX、Jetson 以及 RTX Spark／DGX Spark 上的「物理与对话智能体」，为人形交互、语音助手、嵌入式界面提供多轮智能体能力，10 月 23 日上线。参数量官方没有披露，只有一个「E4B」的型号名与 4GB 的内存占用——这一项本文不做任何推算。

Bolt 74B-A9B 的可用工具链覆盖 llama.cpp、Ollama、LM Studio、Unsloth 与 vLLM，并提供了 GGUF 版本；官方还专门提到它是为 10 月 16 日上市的 RTX Spark 笔记本准备的。对个人开发者和小团队，这条「下载即用」的路径比 NIM 的部署门槛低得多。

许可证是这次最容易被写错的一处。Nemotron 3.5 系列使用的是 OpenMDW-1.1：Hugging Face 上 Super VL 与 Bolt 两张模型卡的许可字段都是 license_name=openmdw-1.1，NVIDIA 开发者在 Lightning 技术博客里也明确写了「权重、训练数据与配方以 OpenMDW-1.1 尽可能宽松地发布」。需要区分的是，2025 年 12 月 Nemotron 3 一代使用的是 NVIDIA Nemotron Open Model License，那是另一份协议——把这代的许可写成「NVIDIA Open Model License」是错的。本文不做条款的法务解读，商用前请以许可正文与官方发布说明为准。

训练与开放范围：Super VL 在预训练与继续预训练阶段约用 26 万亿 token，随后用约 380 万样本做后训练，并在数十个环境中做强化学习。开放的不只是权重，还包括 Hugging Face 上的开放数据集（智能体工具调用、金融、指令遵循、长上下文、公平性，以及 40 个视觉语言数据集）、NeMo Gym 的强化学习环境与训练配方。推理侧的优化手段包括多 token 预测的投机解码、NVFP4 量化与量化感知蒸馏、上下文复用。

部署形态分四层：云端与私有化有 NVIDIA NIM（打包成生产级微服务，官方称每两周刷新安全补丁与性能优化），配 NVIDIA Dynamo 时官方称可服务最多 8 倍用户、延迟降低 85%；权重分发走 Hugging Face、OpenRouter、魔搭 ModelScope 社区与 build.nvidia.com；本地推理按 Bolt 的 llama.cpp／Ollama／LM Studio／vLLM 路线；硬件覆盖 DGX Spark、DGX Station、RTX PRO 与 RTX 系统、Jetson，以及数据中心与云。

生态侧，官方点名了数十家做后训练的组织：Scale AI 为 Skydance 的供应商信贷与 EY 的并购尽调做定制，AfterQuery 服务 Hebbia 的信贷协议分析，AI21 与 Alice 做网络安全攻击韧性，Mercor 基于 APEX-SWE 训练编程智能体，TrainLoop 用皮肤病学数据服务刚获批用 AI 开初始处方的 Nolla，Ramp、Dream、Lila Sciences、R1 各有垂直场景。平台集成的名单包括 Atlassian、CrowdStrike、Dassault Systèmes、Perplexity、Salesforce 与 Synopsys；国内开发者可通过魔搭的 ms-swift 框架微调。官方同时给出了后训练的收益区间：文档智能 +15%、安全攻击韧性 +41%、票据结构化提取 +9%、科学实验 +30%、医疗理赔 +44%——这些是合作方场景下的官方口径，不是通用承诺。

可以引用的：发布时间（10 月 15 日）、型号与参数量（Super VL 120B/12B 激活、Bolt 74B-A9B 74B/9B 激活、Bolt E4B 10 月 23 日上线）、许可证（OpenMDW-1.1）、分发与硬件渠道。这些在 NVIDIA 英文博客、中文博客、开发者技术博客与 Hugging Face 模型卡上互相印证。

必须标「官方称」的：5 倍速度、>600 TPS、快 4 倍完成任务、CharXiv 80.8%、Hermes/LangChain 对比、PinchBench 与 BrowseComp 的排名、Dynamo 的 8 倍用户与 85% 降延迟、后训练的百分比增益。尤其注意「5 倍」的对照对象是同级开放模型（AA 表格中对应 Inkling Small 一类），不是闭源前沿模型；把它写成「比 GPT/Claude 快 5 倍」是错的。

只能标第三方口径的：Super VL 26.5、Bolt 21.4 的智能指数，630 tokens/s 的吞吐，46k/82k 的每任务输出 token，以及 NVFP4 与 BF16 的 0.1 分差距。AA 的 630 tokens/s 是在预发布端点上的一次测量，不是生产环境 SLA；本地自部署的实际速度会因卡型、并发与量化方式明显不同。

官方未披露、不要填的：API 与 NIM 定价、SLA 与企业支持条款、Bolt E4B 的参数量、以及 Nemotron 3.5 是否有 Nano／Ultra 规划。另外，品玩据 TechCrunch 转述「后训练后完成任务速度快于 Opus 5、GPT 6.1 Sol 等」，这句话在 NVIDIA 官方博客中找不到对应原文，本文不把它当结论使用。

选型建议：做常驻的多模态智能体（文档、表格、图表、工单）且要求数据留在自有基础设施的团队，Super VL 是这一档里唯一同时给权重、数据集和训练配方的选项，可先用 NIM 起服务、再用 NeMo 做 SFT／LoRA；做本地或离线的桌面智能体，Bolt 74B-A9B 的 24GB 门槛是当前最现实的路径，但要用自己的长任务集验证它的 token 效率；只做高并发的工具调用与结果校验，8 月发布的 Lightning（30B-A3B）更划算；要等 4GB 级终端设备的，10 月 23 日看 Bolt E4B 的实测。无论哪一档，都请用自有任务集做 A/B，而不是跨榜单比分数。