Nvidia 推出 Project Digits:将 AI 超级计算机带到桌面
Nvidia 今天发布了 Project Digits,这是一款个人 AI 超级计算机,旨在为全球的 AI 研究人员、数据科学家和学生提供访问 Nvidia Grace Blackwell 平台的能力。
Project Digits 采用全新的 Nvidia GB10 Grace Blackwell 超级芯片,为原型设计、微调和运行大型 AI 模型提供高达 1 petaflop 的 AI 计算性能。Nvidia 在本周拉斯维加斯举行的 CES 2025 科技展上,由 CEO 黄仁勋在开幕主题演讲中宣布了这一消息。
借助 Project Digits,用户可以在自己的桌面系统上开发和运行模型推理,然后将模型无缝部署到加速的云或数据中心基础设施上。黄仁勋表示,Project Digits 基于“名为 GB110 的超级秘密芯片,是我们能制造的最小的 Blackwell 芯片”。
黄仁勋表示:“AI 将成为每个行业每个应用的主流。借助 Project Digits,Grace Blackwell 超级芯片将走进数百万开发人员手中。将 AI 超级计算机放在每个数据科学家、AI 研究人员和学生的桌面上,将赋予他们参与和塑造 AI 时代的权力。”
GB10 超级芯片提供高效的 AI 性能
GB10 超级芯片是一款基于 Nvidia Grace Blackwell 架构的片上系统 (SoC),在 FP4 精度下可提供高达 1 petaflop 的 AI 性能。
GB10 采用 Nvidia Blackwell GPU,配备最新一代 CUDA 内核和第五代 Tensor 内核,通过 NVLink-C2C 芯片间互连连接到高性能 Nvidia Grace CPU,该 CPU 包含 20 个采用 Arm 架构构建的节能内核。Arm 架构 SoC 设计的市场领导者 MediaTek 参与了 GB10 的设计,为其提供了同类最佳的能效、性能和连接性。
GB10 超级芯片使 Project Digits 能够仅使用标准电源插座提供强大的性能。每个 Project Digits 都配备 128GB 统一的相干内存和高达 4TB 的 NVMe 存储。借助这款超级计算机,开发人员可以运行高达 2000 亿参数的大型语言模型,从而加速 AI 创新。此外,使用 Nvidia ConnectX 网络,两个 Project Digits AI 超级计算机可以连接起来运行高达 4050 亿参数的模型。
借助 Grace Blackwell 架构,企业和研究人员可以在运行基于 Linux 的 Nvidia DGX OS 的本地 Project Digits 系统上对模型进行原型设计、微调和测试,然后将它们无缝部署到 Nvidia DGX Cloud、加速的云实例或数据中心基础设施上。
这使开发人员能够在 Project Digits 上对 AI 进行原型设计,然后使用相同的 Grace Blackwell 架构和 Nvidia AI Enterprise 软件平台,在云或数据中心基础设施上进行扩展。
Project Digits 用户可以访问 Nvidia AI 软件的庞大库,用于实验和原型设计,包括 Nvidia NGC 目录和 Nvidia 开发者门户网站上提供的软件开发工具包、编排工具、框架和模型。开发人员可以使用 Nvidia NeMo 框架微调模型,使用 Nvidia Rapids 库加速数据科学,并运行 PyTorch、Python 和 Jupyter 笔记本等常用框架。
为了构建代理 AI 应用,用户还可以利用 Nvidia Blueprints 和 Nvidia NIM 微服务,这些服务可通过 Nvidia 开发者计划用于研究、开发和测试。当 AI 应用准备好从实验环境迁移到生产环境时,Nvidia AI Enterprise 许可证将提供企业级安全、支持和 Nvidia AI 软件的产品发布。
Project Digits 将于 5 月从 Nvidia 和顶级合作伙伴处开始发售,起价为 3000 美元。
Meta 的 GenAI 部门负责人 Ahmad Al-Dahle 在一份声明中表示:“通过将 Llama 模型开源,我们致力于将尖端的 AI 技术民主化。借助 Project Digits,开发人员可以利用 Llama 的强大功能,为创新和协作开辟新的可能性。”
Salesforce 首席科学家 Silvio Savarese 在一份声明中表示:“推进 AI 需要能够让研究人员以规模、速度和精度进行实验的工具。Nvidia 的 Project Digits 代表着向前迈出的重要一步。我很高兴看到这种小巧的 128GB 设备如何推动企业 AI 的未来。”
Hugging Face 产品负责人 Je Boudier 在一份声明中表示:“在 Hugging Face,我们希望让开发人员能够轻松地构建自己的 AI。Nvidia 的 Project Digits 将使 AI 构建者能够在边缘构建和运行自己的 Gen AI 模型和系统。借助 128GB 的统一内存,AI 构建者可以在本地运行 2000 亿参数的模型,并连接多个 Project Digits 系统进行扩展。我迫不及待地想看看 Hugging Face 社区将使用 Nvidia Project Digits 构建什么。”
Ollama 联合创始人 Michael Chiang 在一份声明中表示:“Nvidia 的 Project Digits 是一款强大的工具,可以放在你的手掌中。借助两个 Project Digits 设备,开发人员可以轻松地使用高达 4050 亿参数的 AI 模型。我们迫不及待地想看看人们将用它构建哪些应用。”