前途科技
  • AI
  • 初创
  • 报告
我的兴趣
前途科技前途科技
Font ResizerAa
站内搜索
Have an existing account? Sign In
Follow US
Copyright © 2024 AccessPath.com, 前途国际科技咨询(北京)有限公司,版权所有。 | 京ICP备17045010号-1 | 京公网安备 11010502033860号
AI

英伟达发布Project Digits个人AI超级计算机

NEXTECH
Last updated: 2025年2月22日 上午6:54
By NEXTECH
Share
19 Min Read
SHARE

Nvidia 推出 Project Digits:将 AI 超级计算机带到桌面

Nvidia 今天发布了 Project Digits,这是一款个人 AI 超级计算机,旨在为全球的 AI 研究人员、数据科学家和学生提供访问 Nvidia Grace Blackwell 平台的能力。

Project Digits 采用全新的 Nvidia GB10 Grace Blackwell 超级芯片,为原型设计、微调和运行大型 AI 模型提供高达 1 petaflop 的 AI 计算性能。Nvidia 在本周拉斯维加斯举行的 CES 2025 科技展上,由 CEO 黄仁勋在开幕主题演讲中宣布了这一消息。

借助 Project Digits,用户可以在自己的桌面系统上开发和运行模型推理,然后将模型无缝部署到加速的云或数据中心基础设施上。黄仁勋表示,Project Digits 基于“名为 GB110 的超级秘密芯片,是我们能制造的最小的 Blackwell 芯片”。

Nvidia Project Digits

黄仁勋表示:“AI 将成为每个行业每个应用的主流。借助 Project Digits,Grace Blackwell 超级芯片将走进数百万开发人员手中。将 AI 超级计算机放在每个数据科学家、AI 研究人员和学生的桌面上,将赋予他们参与和塑造 AI 时代的权力。”

GB10 超级芯片提供高效的 AI 性能

GB10 超级芯片是一款基于 Nvidia Grace Blackwell 架构的片上系统 (SoC),在 FP4 精度下可提供高达 1 petaflop 的 AI 性能。

GB10 采用 Nvidia Blackwell GPU,配备最新一代 CUDA 内核和第五代 Tensor 内核,通过 NVLink-C2C 芯片间互连连接到高性能 Nvidia Grace CPU,该 CPU 包含 20 个采用 Arm 架构构建的节能内核。Arm 架构 SoC 设计的市场领导者 MediaTek 参与了 GB10 的设计,为其提供了同类最佳的能效、性能和连接性。

GB10 超级芯片使 Project Digits 能够仅使用标准电源插座提供强大的性能。每个 Project Digits 都配备 128GB 统一的相干内存和高达 4TB 的 NVMe 存储。借助这款超级计算机,开发人员可以运行高达 2000 亿参数的大型语言模型,从而加速 AI 创新。此外,使用 Nvidia ConnectX 网络,两个 Project Digits AI 超级计算机可以连接起来运行高达 4050 亿参数的模型。

借助 Grace Blackwell 架构,企业和研究人员可以在运行基于 Linux 的 Nvidia DGX OS 的本地 Project Digits 系统上对模型进行原型设计、微调和测试,然后将它们无缝部署到 Nvidia DGX Cloud、加速的云实例或数据中心基础设施上。

这使开发人员能够在 Project Digits 上对 AI 进行原型设计,然后使用相同的 Grace Blackwell 架构和 Nvidia AI Enterprise 软件平台,在云或数据中心基础设施上进行扩展。

Project Digits 用户可以访问 Nvidia AI 软件的庞大库,用于实验和原型设计,包括 Nvidia NGC 目录和 Nvidia 开发者门户网站上提供的软件开发工具包、编排工具、框架和模型。开发人员可以使用 Nvidia NeMo 框架微调模型,使用 Nvidia Rapids 库加速数据科学,并运行 PyTorch、Python 和 Jupyter 笔记本等常用框架。

为了构建代理 AI 应用,用户还可以利用 Nvidia Blueprints 和 Nvidia NIM 微服务,这些服务可通过 Nvidia 开发者计划用于研究、开发和测试。当 AI 应用准备好从实验环境迁移到生产环境时,Nvidia AI Enterprise 许可证将提供企业级安全、支持和 Nvidia AI 软件的产品发布。

Project Digits 将于 5 月从 Nvidia 和顶级合作伙伴处开始发售,起价为 3000 美元。

Meta 的 GenAI 部门负责人 Ahmad Al-Dahle 在一份声明中表示:“通过将 Llama 模型开源,我们致力于将尖端的 AI 技术民主化。借助 Project Digits,开发人员可以利用 Llama 的强大功能,为创新和协作开辟新的可能性。”

Salesforce 首席科学家 Silvio Savarese 在一份声明中表示:“推进 AI 需要能够让研究人员以规模、速度和精度进行实验的工具。Nvidia 的 Project Digits 代表着向前迈出的重要一步。我很高兴看到这种小巧的 128GB 设备如何推动企业 AI 的未来。”

Hugging Face 产品负责人 Je Boudier 在一份声明中表示:“在 Hugging Face,我们希望让开发人员能够轻松地构建自己的 AI。Nvidia 的 Project Digits 将使 AI 构建者能够在边缘构建和运行自己的 Gen AI 模型和系统。借助 128GB 的统一内存,AI 构建者可以在本地运行 2000 亿参数的模型,并连接多个 Project Digits 系统进行扩展。我迫不及待地想看看 Hugging Face 社区将使用 Nvidia Project Digits 构建什么。”

Ollama 联合创始人 Michael Chiang 在一份声明中表示:“Nvidia 的 Project Digits 是一款强大的工具,可以放在你的手掌中。借助两个 Project Digits 设备,开发人员可以轻松地使用高达 4050 亿参数的 AI 模型。我们迫不及待地想看看人们将用它构建哪些应用。”

Share This Article
Email Copy Link Print
Previous Article 20250221225214952.jpg 宏碁发布搭载RTX 5090显卡的掠夺者 Helios AI 电竞笔记本
Next Article a-young-black-woman-wearing-headphones-w IEEE 人工智能培训课程与迷你 MBA 项目
Leave a Comment

发表回复 取消回复

您的邮箱地址不会被公开。 必填项已用 * 标注

最新内容
Circana:2025年美国电子游戏支出因关税下降30%
报告
中国远洋:2025年1-5月中国汽车出口283万辆,同比增长16%
报告
iPhone在中国销量两年来首次增长背后:苹果不降价你还会买吗
Counterpoint:2025年Q2中国智能手机销量华为增12%苹果增8%
报告
奥维云网:2025年62%用户愿为AI智能锁支付500元及以上溢价
报告

相关内容

20241114213958812.jpg
AI

Meta 开启 AI 赋能机器人,模拟人类互动

2024年11月14日
20250513225244558.png
AI

数据砖助力步行者队机器学习成本降低12000%

2025年5月14日
AI

三维AI获690万美元融资,打造生成式AI游戏世界

2024年10月9日
an-illustration-shows-four-colorful-step
AI

人工智能解百万步数学难题

2025年2月28日
Show More
前途科技

前途科技是一个致力于提供全球最新科技资讯的专业网站。我们以实时更新的方式,为用户呈现来自世界各地的科技新闻和深度分析,涵盖从技术创新到企业发展等多方面内容。专注于为用户提供高质量的科技创业新闻和行业动态。

分类

  • AI
  • 初创

快速链接

  • 阅读历史
  • 我的关注
  • 我的收藏
Copyright © 2024 AccessPath.com, 前途国际科技咨询(北京)有限公司,版权所有。 | 京ICP备17045010号-1 | 京公网安备 11010502033860号
前途科技
Username or Email Address
Password

Lost your password?