NVIDIA 发布 Nemotron 3.5 系列：覆盖数据中心至边缘的高效开源模型
NVIDIA 推出 Nemotron 3.5 Super VL 及两款 Bolt 边缘模型，旨在为不同层级的智能体部署提供开源、可定制的解决方案，平衡性能、速度与本地化部署需求。
NVIDIA 正式发布了 Nemotron 3.5 系列新模型，包括面向企业级智能体的 Nemotron 3.5 Super VL 以及两款针对边缘设备的 Nemotron 3.5 Bolt 模型。Super VL 拥有 1200 亿参数，主打多模态任务的高精度与快速完成能力；Bolt 系列则通过量化技术优化内存占用，支持在本地硬件上运行智能体工作负载。这一系列更新旨在让组织无需在模型能力与部署灵活性之间做出妥协，即可在从数据中心到桌面端的各类环境中部署定制化智能体。
先看重点
- Nemotron 3.5 Super VL 是一款 1200 亿参数的开源多模态模型，据称在同类开放模型中任务完成速度最快，精度接近 NVIDIA 最大推理模型。
- Nemotron 3.5 Bolt 74B-A9B 24GB 采用原生 2-bit 量化，仅需 24GB 内存即可在本地运行日常智能体任务，适合 RTX/DGX Spark 等设备。
- Nemotron 3.5 Bolt E4B 4GB 专为快速对话和嵌入式智能体设计，仅需 4GB 内存，计划于 10 月 23 日发布。
- 所有模型均提供开放权重、数据集及训练配方，支持通过 NVIDIA NeMo 进行后训练，以满足特定行业的安全与隐私需求。
发布概况：覆盖全场景的智能体模型矩阵
NVIDIA 此次发布的 Nemotron 3.5 系列包含三款模型，旨在覆盖从大型服务器到边缘设备的完整智能体部署范围。核心产品 Nemotron 3.5 Super VL 是一款 1200 亿参数的开放模型，专注于多模态智能体任务，如指令遵循、工具使用、多步骤业务流程及视觉理解。NVIDIA 表示，该模型在保持与最大推理模型相当精度的同时，参数量仅为其约五分之一，且任务完成速度比同类最佳开放模型快 5 倍。此外，NVIDIA 同步推出了两款边缘模型：Nemotron 3.5 Bolt 74B-A9B 24GB 和 Nemotron 3.5 Bolt E4B 4GB。前者针对本地智能体工作负载优化，平衡智能与速度；后者则针对快速对话智能体优化，追求每 GB 内存的智能密度。Super VL 和 Bolt 74B-A9B 现已可用，而 Bolt E4B 将于 10 月 23 日上线。
技术特性：多模态理解与边缘量化优化
Super VL 的视觉语言能力针对智能体在实际场景中遇到的内容进行了优化，包括光学字符识别（OCR）、表格、图表及视觉文档中的结构化信息。这意味着智能体可以直接处理网页、PDF 等文档，提取文本并读取图表，无需在多个独立系统间路由任务，从而保持上下文连贯性。在边缘端，Bolt 74B-A9B 24GB 采用原生 2-bit 量化技术，使其能够适配 24GB 内存环境，并与其他应用程序并行运行。NVIDIA 称该模型在 PinchBench 上位列同类开放模型第一，在 BrowseComp 上位列第二。Bolt E4B 4GB 则结合自然对话与多轮智能体能力，适用于 GeForce RTX、Jetson 等硬件上的快速本地语音助手或嵌入式界面。
行业应用：定制化后训练与数据主权
该系列模型强调开放性与可定制性，提供开放权重、开放数据集及训练配方。组织可以利用 NVIDIA NeMo 框架和 Python 管道，基于自身数据、工具和策略对模型进行后训练。例如，Scale AI 为 Skydance 和 EY 定制了信用融资和并购尽职调查智能体；CrowdStrike 将其用于企业安全中的蓝队智能体；Salesforce 则通过 Missionforce Operations 将其用于政府工作流的数字化。这种模式允许组织在满足数据驻留和安全要求的前提下，将模型部署在本地基础设施上。对于保险、金融等行业，这意味着可以构建扫描欺诈标记或审查信用评分的专用智能体，同时确保数据隐私。
部署生态与性能声明的局限性
Nemotron 3.5 Super VL 可在 DGX Spark、DGX Station、RTX PRO 及 RTX 系统等 NVIDIA 全栈硬件上运行，并通过 NVIDIA NIM 提供生产级微服务支持。NVIDIA 声称，结合 NVIDIA Dynamo，组织可以服务多达 8 倍的用户，同时降低 85% 的延迟。然而，读者在评估这些性能声明时需注意，'5 倍速度'和'最高精度'等表述基于 NVIDIA 提供的特定基准测试环境，实际表现可能因具体工作负载和硬件配置而异。此外，虽然模型支持本地部署，但 1200 亿参数的 Super VL 对硬件资源要求较高，主要适用于数据中心或高端工作站，而边缘设备用户应关注 Bolt 系列的内存限制。
参考资料与编写说明
- 事实来源：NVIDIA Blog：Open From Data Center to Desktop: NVIDIA Expands Nemotron Family With Highest Efficiency Super VL and Bolt Models
- 本文由 AiNav 根据公开材料独立整理与解读，事实陈述与编辑分析分别表达，不逐段转载或翻译发布方全文。来源链接用于溯源和查看后续更新，本站正文已提供本篇完整内容。
- 尚未公开或来源未证实的信息不作确定性结论。具体产品条件、法规进展和服务变动以发布方后续公告为准。