行业巨头成立开放安全AI联盟，共筑AI安全防线

开源软件是全球经济的重要支柱。它支撑着云计算、金融服务、制造业、电信、政府和互联网服务，通过让技术对专家社区可访问和可观察，降低了准入门槛。

网络安全是开源软件受益最大的三大领域之一。开放安全AI联盟（Open Secure AI Alliance）——建立在Linux基金会的Akrites计划和OpenSSF社区工作的基础之上——将致力于使用开放技术修复和披露漏洞。

正如开源为软件创造了共享基础，美国及其盟友现在在AI安全上面临一个选择：是让保护基础设施的防御系统隐藏在少数不透明的系统中，还是建立在开放模型、工具和框架之上，让任何防御者都可以研究、适配和部署。

世界既需要闭源模型，也需要开放模型。对于网络安全，开放模型和开放工具至关重要——它们使防御能力民主化，增加防御者的透明度，在保护数据的同时实现网络防御，并以可定制、本地化的控制补充前沿闭源模型。开源实现了大规模分布式的社区驱动和自我控制防御，没有单点故障。

开放模型和任何强大技术一样，可能被滥用——包括试图削弱安全措施或将能力用于网络攻击——但此类风险并非开放系统独有，在任何部署高级AI的地方都必须管理。

最近的Hugging Face安全事件是一个明确提醒：网络防御者需要开放的、前沿的智能体系统来自我防御。当封闭的AI工具无法区分攻击者和防御者，阻止了必要的取证分析时，Hugging Face在其自家基础设施上运行了开源权重的GLM 5.2模型，分析了超过17,000个操作并遏制了入侵。

该事件揭示了一个现实：当防御者无法在自己的基础设施上检查、适配和运行高级AI时，他们的响应能力在速度至关重要的时刻就会受限。公司和国家安全需要开放的尖端防御工具和技术，以便关键行业能够在多供应商生态系统中构建安全系统，避免单点故障。

这就是开放安全AI联盟的使命：确保世界各地的防御者拥有他们可以信任和控制的开放前沿工具。

来自云计算、网络安全、企业软件、开源基金会和AI研究的领导者——包括NVIDIA、Adobe、Cadence、Capital One、Cisco、Cloudera、Cloudflare、Cognition、CrowdStrike、Databricks、Dell Technologies、DoorDash、Elastic、HPE、Hugging Face、IBM、LangChain、Linux基金会、Microsoft、NAVER、NetApp、Nous Research、OpenClaw、Palantir、Palo Alto Networks、Red Hat、Reflection AI、Salesforce、SAP、ServiceNow、Siemens、SK Telecom、Snowflake、SpacexAI、Synopsys、Thinking Machines Lab和TrendAI——是开放安全AI联盟的创始成员。该联盟是一项旨在开发和共享开放技术、方法和工具的运动，以保护AI时代的软件和智能体。

有人认为开放模型天生不安全，因为它们可能被用于网络攻击或被修改以移除护栏。这些风险真实存在，但它们同样存在于闭源系统中。仅保持权重不公开并不能阻止坚定的攻击者寻找或利用强大的AI。

正确的应对不是剥夺防御者使用强大开放系统的能力，而是将开放性与强大的安全措施、明确的恶意滥用禁止规则、严格的评估和快速修复相结合。在网络安全领域，更安全的路径是给予更多防御者测试、验证和加强社会所依赖系统的能力。

防御者既需要前沿闭源模型，也需要前沿开放模型，让它们协同工作，以便为任务选择合适的系统，并确保在安全要求的地方都能获得透明度、适应性和主权控制。

开放研究增强网络安全与AI安全

一个AI智能体不仅仅是一个语言模型。它是由模型、工具和护栏组成的复杂系统。

真正的AI安全与安全依赖于整个智能体堆栈——身份、权限、工具、护栏、日志和评估——而不仅仅是模型权重是否开放。开放的工具和框架使更多防御者能够检查、测试和改进这些控制。

NVIDIA正为开放安全AI联盟贡献开放模型、模型权重、数据和新的智能体工具研究，以加速新网络安全工具和技术的发展。

新的开源NVIDIA Labs面向对象智能体（NOOA）项目现已在GitHub上可用，使高级AI安全能力更易于用于智能体工具。NOOA研究框架使工具能够更好地与模型集成，让智能体行为更易于测试、追踪、审计和管理。

在整个联盟中，贡献者正在构建开放的智能体防御堆栈——从身份和隔离到安全模型格式、多模型扫描和安全编码工作流。

HPE贡献了SPIFFE/SPIRE，它创建了零信任身份框架标准和方法，可对AI智能体和服务进行密码学验证，确保只有授权的工作负载才能通信和访问企业资源。

Hugging Face提供了Safetensors——一种存储AI模型权重的安全格式，提供透明性和无远程代码执行的保证——并将其贡献给PyTorch基金会。

IBM和Red Hat的Lightwell通过数字签名补丁扩展了开源供应链的安全性。

微软的MDASH多模型智能体扫描工具编排专门的AI智能体，发现、辩论和证明可利用的漏洞。

SpacexAI开源了Grok Build终端AI编码智能体，以促进信任、透明度和新能力，并计划开源Grok系列模型的权重，支持开发者和研究社区。

对政策制定者和监管者的呼吁

在政策制定者和监管者应对AI安全问题时，关键是要认识到开放模型、工具和安全工具是AI和网络安全政策中的防御性资产，而非负担。对开放前沿AI系统的全面限制将削弱防御能力，并可能将权力、依赖性和脆弱性集中在少数几个封闭提供商手中。

公司和国家应投资于共享的开放AI防御基础设施——数据集、评估框架、攻击模拟器和红队工具——就像过去几代人投资于开源软件一样。

我们应该构建的未来

AI智能体时代可以是一个韧性和共享安全的时代。通过正确的选择，开放安全的AI系统可以为防御者提供所需工具，加强竞争，扩展技术领导力，并确保这项非凡技术的安全和保障是在开放中为所有人构建的。

这个未来不会通过假设保密就是安全来实现。它通过构建足够强大以经受审视、足够灵活以持续改进、足够开放以动员整个防御者社区的系统来实现。

这个未来值得构建——开放安全AI联盟邀请政府、行业和研究人员共同参与保卫AI时代的工作。

了解更多或表达加入意向

---

原文链接：NVIDIA AI Blog
本文由前途科技编辑整理