NVIDIA Spectrum-6 投入超大规模 AI 工厂
产品· 原作者：Scot Schultz· 4 分钟阅读0 阅读
为 Vera Rubin 平台打造的 NVIDIA Spectrum-6 以太网交换机已交付全球超大规模 AI 工厂，提供 102.4Tbps 带宽，支持数十万 GPU 高效协同，显著提升 AI 训练与推理性能。
AI 已进入超大规模时代。
全球最先进的 AI 工厂正将数十万 GPU 和 CPU 整合在一起，用于训练前沿模型、驱动 AI 智能体，并以空前的规模生成智能。在这样的量级下，网络成为推动 Token 生成的关键算力倍增器。
NVIDIA Spectrum-6 是一个网络里程碑。这是一套 102.4 太比特每秒（Tbps）的以太网交换机系统，容量是上一代的两倍，作为 NVIDIA Vera Rubin 平台的一部分，现已交付全球超大规模 AI 工厂。
Spectrum-6 锚定了下一代 NVIDIA Spectrum-X 以太网平台，提供将 AI 工厂作为一个端到端计算系统运行所需的带宽、规模和智能。
领先的 AI 基础设施构建者率先采用
全球领先的 AI 基础设施构建者——包括 CoreWeave、Microsoft、Nebius、SpaceXAI 和 Tesla——将成为首批引入 Spectrum-6 来加速其 AI 工厂的公司。
对于云服务商，Spectrum-6 意味着更多的计算能力可以作为统一的、高性能的资源运行，帮助客户更快地训练模型和部署推理服务。
CoreWeave 网络产品总监 Min Jun 表示：“CoreWeave 是为最严苛的 AI 工作负载而构建的，网络是在规模上实现该性能的核心。将 NVIDIA Spectrum-6 和液冷 Spectrum-X 以太网基础设施引入我们的 AI 工厂，将帮助我们提供客户训练前沿模型和更快部署推理所需的带宽、弹性和效率。”
Nebius 全球合作伙伴副总裁 Laurelle Roseman 表示：“在超大规模下，性能取决于协调：让每个 GPU 保持同步，这样一条慢速链路就不会拖慢整个任务。这就是 NVIDIA Spectrum-6 的目标，也是我们早期引入它的原因——随着客户最苛刻的工作负载扩展，保持快速且富有弹性的网络结构。”
对于自行构建基础设施的 AI 先驱，Spectrum-6 意味着更多 GPU 可以同步工作，在要求严格的集体通信操作中获得更高利用率，并对长时间运行的任务具有更强的韧性。
跨越不同用例，结果是更快获得成果和更优的经济性。
CoreWeave、Microsoft 和 Nebius 将成为首批部署基于 NVIDIA Vera Rubin 且配备 Spectrum-6 基础设施的服务商，将平台访问权限扩展到广泛的开发者、创业公司和企业社区。
AI 性能是一个网络问题
仅依赖峰值 GPU 性能已无法预测 AI 工厂的整体表现。
大规模训练和推理工作负载依赖成千上万个加速器持续交换数据。集体通信是跨 GPU 同步工作的基本操作，会产生密集的东西向流量，且常有许多系统同时传输。
以太网最初主要面向企业应用和用户、服务器与存储之间的南北向流量，并非为超大规模 AI 的同步、集体密集型通信模式而设计。
Spectrum-X 以太网改变了这一点。它专为 AI 构建，将传统以太网转变为高性能的横向扩展网络结构，确保每个 GPU 都能获得数据供给。
下一代 Spectrum-X 以太网
Spectrum-6 交换芯片与 NVIDIA ConnectX-9 SuperNIC 共同构成下一代 Spectrum-X 以太网，并被设计为 NVIDIA Vera Rubin 的一部分，整合了NVIDIA Vera CPU、Rubin GPU、NVLink 6 Switch、ConnectX-9 SuperNIC、BlueField-4 DPU 和 Spectrum-6 以太网交换机。
Spectrum-6 支持可插拔和共封装光学（CPO）两种形态。此外，Spectrum-6 产品支持液冷，为整个 AI 工厂提供全面的端到端冷却方案，同时提升网络能效。
与现成的以太网不同，NVIDIA Spectrum-X 以太网网络平台专为 AI 工厂横向扩展设计，结合了智能交换机、NVIDIA ConnectX-9 SuperNIC 和全栈网络软件，全部为 AI 协同优化。该平台的高级特性持续优化流量在结构中流动的方式。
此外，NVIDIA Spectrum-X 技术智能地在可用路径间平衡流量，快速绕过故障，并在数据穿越网络失败时精确恢复。同时，对开放网络操作系统（NOS）的支持以及 RDMA 传输模型的选择，让 AI 构建者在不牺牲性能的前提下获得灵活性。
Spectrum-X 以太网是 NVIDIA 垂直整合、水平开放方法的内在组成部分：在跨整个计算平台协同设计芯片、系统和软件的同时，支持标准以太网、开放网络操作系统、开放协议以及由云服务商、系统制造商和基础设施合作伙伴组成的广泛生态系统。客户无需自行拼凑组件并事后优化，而是获得一个完整的 AI 工厂平台，旨在提供最快的训练时间和最低的每 Token 成本。
实践证明，与现成以太网相比，Spectrum-X 以太网能提供高达 1.6 倍的 AI 网络性能，在超过 10 万 GPU 的部署中维持高达 95% 的网络效率。
硬件加速的 Spectrum-X 多平面拓扑可将数据中心所需的交换机数量减少 1.7 倍，进一步提升网络效率。结合 Spectrum-X 以太网光子学带来的益处——包括 5 倍的能效提升和 10 倍的平均故障间隔时间改善——网络结构增强持续带来超越组件级优化的工作负载加速。
了解更多关于 NVIDIA Spectrum-X 以太网平台的信息。
原文链接：NVIDIA AI Blog
本文由前途科技编辑整理
想了解 AI 如何助力您的企业？
免费获取企业 AI 成熟度诊断报告，发现转型机会
//
24小时热榜
热门标签
关注公众号
扫码关注，获取最新 AI 资讯
免费获取 AI 落地指南
3 步完成企业诊断，获取专属转型建议
已有 200+ 企业完成诊断