NVIDIA在KubeCon大会上宣布将AI智能体安全运行时OpenShell捐赠给云原生计算基金会,并联合Google推进Agent Substrate项目。同时推出NVKE与Snapshot等开源工具,显著缩短GPU推理扩展延迟。
Kubernetes作为支撑全球AI工厂的核心开源系统,正面临日益增长的大规模AI算力调度需求。在KubeCon + CloudNativeCon大会上,NVIDIA宣布深化开源布局,推进云原生AI基础设施建设。
NVIDIA已正式将NVIDIA OpenShell捐赠给Linux基金会旗下的云原生计算基金会(CNCF)。作为CNCF沙箱(Sandbox)项目,OpenShell是一个用于保障自主AI智能体安全与治理的开源运行时,未来将由社区企业共同主导维护,并吸收全球安全专家的经验持续强化。
此外,NVIDIA还参与了Google发起的CNCF沙箱项目Agent Substrate。该框架旨在Kubernetes上大规模运行长时间运行的AI智能体工作负载。
同时,NVIDIA推出了NVIDIA DSX AI Factory平台的多个全新开源组件,包括NVIDIA Kubernetes Engine、NVIDIA Kubernetes Recipes以及NVIDIA Snapshot,旨在帮助开发者更高效地在Kubernetes上部署、管理并弹性扩展GPU基础设施。
随着AI智能体广泛落地,云原生社区面临着为智能体提供安全运行环境的全新挑战。将OpenShell移交CNCF,让基础设施安全工具接受开源社区的检验与迭代。
OpenShell为企业提供了对AI智能体行为的确定性控制机制。当智能体调用外部工具、访问推理服务或执行特定负载时,运维团队可以强制实施合规策略。其可扩展架构允许团队接入自有的算力、推理接口、凭据存储及监控系统,在不同部署环境中实现统一治理。发布不到一年,已有数百家机构采用OpenShell,社区代码贡献达数万次。
在大规模部署层面,NVIDIA正在将Agent Substrate与NVIDIA Dynamo推理框架及KAI Scheduler集群调度器深度整合,实现任务执行、模型推理与资源调度的协同。
Agent Substrate可以在任务间隙保留智能体的运行上下文环境,同时释放闲置算力,通过挂起与恢复机制实现资源池化复用,无需为每个会话维持专用算力。NVIDIA正与Google合作推进OpenShell与Agent Substrate的整合,打通跨多云与本地系统的安全管控通道。

为了让AI工厂在保留基础架构掌控力的同时提供托管服务,NVIDIA对DSX AI Factory平台进行了扩展:
NVIDIA Kubernetes Engine(NVKE)与NVIDIA Kubernetes Recipes(NVKR)现已开启公开预览。二者提供了基于GPU基础设施构建托管Kubernetes服务的开源组件,支持自动化集群生命周期管理,并提供签名验证镜像。Mirantis、OpenNebula、Rafay以及SK Telecom等生态伙伴已计划将相关能力集成至旗下产品中。
NVIDIA Snapshot则专注于解决推理算力扩容延迟问题。传统扩展往往受阻于模型重新加载与显存预热,Snapshot可在数秒内恢复带有检查点的副本,无需重新载入模型,极大提升了Kubernetes集群中推理与AI智能体负载的弹性伸缩速度。
在NVIDIA HGX B300系统上的实测数据显示,Crusoe测试GLM-5.3时,将工作负载就绪时间从约8分钟缩短至31秒;Saturn Cloud在零样本扩容推理测试中,将vLLM启动时间从2至8.5分钟大幅压缩至6到34秒。
免费获取企业 AI 成熟度诊断报告,发现转型机会
关注公众号

扫码关注,获取最新 AI 资讯
3 步完成企业诊断,获取专属转型建议
已有 200+ 企业完成诊断