在最新公布的 MLPerf 榜单中,NVIDIA 新一代 Vera Rubin 架构首次亮相即横扫训练全项测试,单 GPU 性能相比 GB300 翻倍,并在智能体推理能效上实现超 10 倍代际飞跃。
在最新公布的 MLPerf 基准测试中,NVIDIA Vera Rubin 平台正式迎来首秀,在模型训练、后训练以及智能体推理等各项评测中均展现出领先性能。
在本轮 MLPerf Training v6.1 测试中,NVIDIA 包揽了所有测试项的第一;而在首次参与的 MLPerf Endpoints 测试中,面向 AI 智能体场景,Vera Rubin 实现了每瓦吞吐量超过 10 倍的代际提升。这一指标直接衡量了系统在单位功耗下所能承载的智能体工作负载。
随着 NVIDIA CUDA 软件栈的持续优化,Vera Rubin 的性能还将进一步释放,使客户当前部署的算力基础设施在未来持续增值。
如今,AI 智能体已经深入编写代码、驱动业务流程、处理客户咨询等各类场景,并在科研领域展现出巨大潜力。训练速度的提升,意味着更聪明的智能体能够更快交付给用户,药物研发模型能更迅速地结合实验数据进行迭代,风控防欺诈系统也能更快应对新兴威胁。
MLPerf Training 主要评估系统将多种 AI 模型训练至目标精度所需的时间。
本轮测试中,NVIDIA 是唯一提交了涵盖大语言模型、图像生成、推荐系统及强化学习后训练等全部基准测试结果的平台。初次登场的 Vera Rubin NVL72 系统,单 GPU 性能相比经过高度优化的 GB300 NVL72 系统最高提升达 2 倍,展现出显著的代际技术跨越。

在大规模集群扩展方面,NVIDIA 同样交出亮眼成绩。在 DeepSeek-V3 基准测试中,Vera Rubin NVL72 从 256 颗 GPU 扩展至 1024 颗 GPU 时,线性扩展效率约为 97%:GPU 数量翻两番,训练时间直接从 16 分钟骤降至约 4 分钟。
此外,NVIDIA 还展示了基于 GB300 系统达 10,240 颗 GPU 的超大规模测试,创下本轮最大规模纪录;微软 Azure 也基于 10,240 颗 NVIDIA GB200 芯片提交了同等规模的成绩。
在大规模集群中,单纯增加 GPU 数量并不一定能换来同等加速,关键在于协同效率。NVIDIA 通过 NVLink 纵向扩展(scale-up)网络将柜内 GPU 紧密互连,使其宛如单颗芯片般协同运作;在数据中心层面,则借助 Quantum-X800 InfiniBand 与 Spectrum-X Ethernet 横向扩展(scale-out)网络实现机柜间高效联动,配合底层软件栈优化,让上万颗 GPU 高效同步运转。
无论是自主规划行程的差旅助手,还是主动排查系统故障的 IT 智能体,在完成单一复杂任务时往往需要经过多步推理、频繁调用外部工具并反复自检结果。
这些交互过程会产生大量 Token。在受限于数据中心电力供应的现实环境下,单位功耗每秒能产出的 Token 越多,系统能同时支撑的智能体规模就越大,商业价值也越显著。
MLPerf Endpoints 针对真实的智能体代码编写与企业级业务流进行测试,并严格验证任务完成的准确率。Vera Rubin 在所有智能体基准测试中均位居榜首。
以专为智能体工作流设计的大型开源模型 Kimi K3 为例,在保持相同交互响应速度的前提下,Vera Rubin NVL72 每瓦吞吐量达到了 GB300 NVL72 的 10 倍以上。

对于 AI 算力服务而言,核心难点在于既要在高并发下服务海量用户,又要保障每个请求的快速响应。Vera Rubin 显著改写了这一性能平衡曲线,在缩短响应延迟的同时实现了更大规模的高并发支持。
在本轮 MLPerf Training 中,共有包括华硕、微软 Azure、思科、CoreWeave、戴尔科技、Google Cloud、HPE、联想/云达科技(QCT)、超微等在内的 20 家合作伙伴提交了测试数据,印证了 NVIDIA 硬件配合其开放软件库在全产业链中的广泛应用与成熟度。
除 MLPerf 外,Vera Rubin 还在 SemiAnalysis AgentX 以及 Artificial Analysis AgentPerf 等第三方基准测试中展现出强劲表现,证明该架构不仅能通吃从预训练、后训练到复杂智能体推理的全流程任务,同样能高效支撑传统高性能计算(HPC)工作负载。
免费获取企业 AI 成熟度诊断报告,发现转型机会








关注公众号

扫码关注,获取最新 AI 资讯
3 步完成企业诊断,获取专属转型建议
已有 200+ 企业完成诊断