企业正将智能体AI从概念验证推向生产。HPE和NVIDIA在HPE Discover上宣布扩展HPE AI Factory,新增专为智能体设计的NVIDIA Vera CPU及NVIDIA Agent Toolkit,并推出全栈机密计算和增强的NVIDIA集成,帮助企业安全、规模化地部署智能体AI。

企业正将智能体AI从概念验证推向生产——而下一代AI工厂正为智能体时代而建。
在周二至周四(6月18日)于拉斯维加斯举行的HPE Discover大会上,NVIDIA和HPE宣布扩展HPE与NVIDIA合作的AI工厂,包括NVIDIA Vera CPU和用于HPE Private Cloud AI的NVIDIA Agent Toolkit。
此外,NVIDIA机密计算扩展至整个HPE AI Factory,全栈NVIDIA集成(包括NVIDIA加速计算、NVIDIA AI软件和NVIDIA网络)已在整个产品组合中可用。
配备NVIDIA Vera CPU的HPE ProLiant Compute DL394 Gen12将于2027年随HPE Private Cloud AI上市。Vera是首款专为智能体设计的CPU,针对智能体循环中的工具调用、编排和实时数据处理进行了优化,为HPE Private Cloud AI带来确定性的低延迟性能。
纽约证券交易所与Redpanda和HPE合作,是早期探索Vera CPU的企业客户。
Vera CPU是NVIDIA Vera Rubin平台的一部分,该平台的机架级系统NVIDIA Vera Rubin NVL72已全面投产,并可通过HPE获得。Vera Rubin专为超过1万亿参数的前沿模型构建,每个芯片都配备全栈NVIDIA机密计算。
HPE还将基于NVIDIA HGX Rubin NVL8的HPE Compute XD700引入HPE AI Factory,每机架最多支持128个Rubin GPU。
NVIDIA Agent Toolkit(包括NVIDIA Nemotron开放模型、NVIDIA OpenShell安全运行时和NVIDIA NemoClaw蓝图)将随HPE Private Cloud AI提供。这些工具为企业提供了智能体AI操作系统,用于监控智能体行为、执行治理策略,以及安全地构建和运行自治、长期运行的多智能体系统。
HPE Private Cloud AI增加了安全的本地智能体注册功能,允许客户在运行前对AI模型、技能和工具进行集中治理和安全策略审批。新的HPE Zerto软件功能可以检测恶意智能体行为,并利用持续数据保护回滚到干净状态。
在数据层面,HPE Alletra Storage MP X10000(已获得NVIDIA-Certified Storage基础级别认证)会自动应用元数据和治理策略,为非结构化数据准备AI流水线,从而提高Token吞吐量。
NVIDIA机密计算现在通过HPE Services覆盖全部HPE AI Factory解决方案,包括HPE AI Factory at Scale、HPE Sovereign AI Factory和HPE Private Cloud AI。
AI应用需要访问并使用私有和敏感数据,这些数据必须受到保护。此外,使用专有数据或技术训练的模型也需要防止被窃取。机密计算对于这些现代AI工作负载至关重要,它能在执行过程中保护模型和私有数据,适用于本地和主权部署,通过密码学认证和加密在每一阶段建立信任链。
此外,HPE ProLiant Compute DL380a已获得NVIDIA-Certified Systems for NVIDIA Confidential Computing项目认证,验证了其在机密计算环境下的强大应用性能。这些系统为AI工作负载和敏感数据资产提供基于硬件的保护,同时保持最优的NVIDIA加速性能。
在HPE AI Factory解决方案中,NVIDIA BlueField DPU和NVIDIA DOCA提供基于芯片的零信任策略执行、运行时威胁检测和网络加密,在不影响性能的情况下保护AI工作负载、智能体和数据。
HPE AI Factory at Scale、HPE Sovereign AI Factory和HPE Private Cloud AI现已支持NVIDIA RTX PRO 6000 Blackwell Server Edition GPU、NVIDIA Spectrum-X Ethernet网络、NVIDIA BlueField-3 DPU和NVIDIA ConnectX-8 SuperNIC。
对于下一代AI工厂,每一台Vera Rubin NVL72系统将内置NVIDIA网络:NVIDIA Vera BlueField-4 DPU、NVIDIA ConnectX-9 SuperNIC和NVIDIA Spectrum-X Ethernet,其中NVIDIA Spectrum-6交换机相比普通以太网提供1.6倍的AI通信网络性能提升。
Spectrum-X Ethernet网络已成为HPE AI Factory with NVIDIA的标准配置,适用于当前可用的规模化、主权和交钥匙AI工厂解决方案。对于大规模和主权工作负载,HPE在3月的NVIDIA GTC上宣布还将支持NVIDIA InfiniBand网络选项,包括配备HPE Cray Supercomputing GX5000的NVIDIA Quantum-X800 InfiniBand。
这些配置基于NVIDIA参考架构,支持从AI开发到生产级部署的各种用例,并兼容NVIDIA AI Enterprise软件和HPE Unleash AI生态系统。
在本次HPE Discover大会上,Unleash AI合作伙伴计划新增了近十家AI软件合作伙伴,包括Aizen、BridgeTEK、deepset、Deliverance、Faclon Labs、Gallop、Rocket、Supervity、Thales、Trustwise和Vortiqx。
参会者可在展会上亲身体验这些解决方案,并了解更多关于HPE AI Factory with NVIDIA的信息,这是NVIDIA AI Computing by HPE产品组合的一部分。
原文链接:NVIDIA AI Blog
本文由前途科技编辑整理
免费获取企业 AI 成熟度诊断报告,发现转型机会
关注公众号

扫码关注,获取最新 AI 资讯
3 步完成企业诊断,获取专属转型建议
已有 200+ 企业完成诊断