NVIDIA发布Nemotron 3.5开源模型

NVIDIA于10月15日为其Nemotron家族新增三款开源权重模型。旗舰型号为Nemotron 3.5 Super VL，这是一款拥有1200亿参数的多模态模型，专为“专用常驻型智能体”打造。此外，NVIDIA还推出了两款边缘模型：Nemotron 3.5 Bolt 74B-A9B 24GB与Nemotron 3.5 Bolt E4B 4GB。这些模型旨在让AI智能体能够流畅运行在从数据中心系统到桌面电脑的各类设备上。Super VL与Bolt 74B-A9B现已上线，Bolt E4B预计于10月23日推出。

Super VL瞄准企业级智能体应用

Super VL采用混合专家（MoE）架构，在总共1200亿参数中，每个Token仅激活120亿参数。根据NVIDIA开发者博客的介绍，该模型能在一个统合架构中同时处理文本、图像、文档与视频。

NVIDIA表示，在单GPU上运行时，Super VL在智能体任务上的吞吐量最高可达同体量开源模型的5倍。在CharXiv图表推理基准测试中，该模型取得了80.8%的成绩。

该模型由Nemotron 3 Ultra蒸馏而来，企业可使用私有数据对其进行后训练微调。部分早期用户已展现成效：Scale AI预计某供应商信用评估业务的推理成本将降低至四十分之一，Ramp则预计票据识别延迟最高可降低10倍。Super VL目前已上线Hugging Face、OpenRouter、ModelScope魔搭社区，并作为NVIDIA NIM微服务提供。

Bolt系列推动智能体落地本地硬件

Bolt 74B-A9B拥有740亿参数，每个Token激活90亿参数。借助2-bit量化技术，该模型仅需24GB显存即可装载运行。与其他Nemotron模型一样，其权重、训练数据与训练方案均完全开源。该模型支持llama.cpp、Ollama、LM Studio、Unsloth与vLLM部署，主要面向RTX Spark笔记本打造。

另一款Bolt E4B专为实体智能体与对话智能体设计，适配语音助手及交互式游戏NPC等场景，可部署在GeForce RTX、Jetson与DGX Spark平台上。

开源模型背后的战略意图

开源权重模型已成为NVIDIA增长战略的重要一环。更低的使用门槛能吸引更多机构接入AI，进而推高对底层芯片的长期需求。目前，月之暗面（Moonshot AI）与阿里巴巴等中国团队凭借Kimi和Qwen系列在开源大模型领域占据重要地位。NVIDIA首席执行官黄仁勋呼吁美国企业开发并采纳更多开源模型，以防行业受困于少数封闭系统。