防御者的窗口已经打开

OpenAI-Hugging Face 事件是网络安全的分水岭，它让我们窥见典型威胁行为者的能力将在未来数月如何演变。过去几周，我与许多组织交流，一个主题很清晰：他们知道自己需要以前所未有的速度从根本上提升网络安全实践。本文将分享 OpenAI 如何保护自身、其他组织现在可以采取的具体步骤，以及为什么现在是行动的最佳时机。

当前形势

全球开发的 AI 模型正日益能够自动化真实网络攻击的各个环节，使长期存在的安全漏洞——从深埋于人工编写软件中的缺陷到被遗忘的权限——更容易被发现和利用。同样的 AI 能力也为防御者提供了发现和修复这些弱点的新方法，但他们必须立即行动。如果企业果断行动——包括改进基础安全并利用 AI 增强团队能力——我们就能让互联网比以往任何时候都更安全。

在 OpenAI-Hugging Face 事件中，一个智能体集合不仅自主渗透了 OpenAI 的研究基础设施，还渗透了另一家公司的生产基础设施，串联了从此前未知的安全缺陷到利用泄露在互联网上的用户凭证等多类漏洞。越来越明显的是，每家公司的技术债务都掩盖着重大缺陷，防御者需要在攻击者利用它们之前找到并修复这些缺陷。

为了在对抗中让防御者占据优势，今年早些时候我们开始只向值得信赖的防御者开放网络能力。此后，多家公司发布了在网络能力上仅落后前沿数月的开放权重模型。其中最新模型预计于8 月底发布，似乎可能显著加速威胁格局的演变。

虽然 AI 驱动的攻击者很快就能发现许多现有系统中的长期缺陷，但 AI 也将使防御者更容易发现、排序和修复这些缺陷。安全仍是一场猫鼠游戏，但 AI 可能改变其经济逻辑，从根本上有益于防御者。例如，我们已开始专门训练模型编写超人类水平的安全代码。我们的模型还擅长数学证明，这可用于对软件安全性进行形式化验证，而这对人类来说迄今难以实现。

一个个人案例

在 OpenAI-Hugging Face 事件后，我让 ChatGPT Work（使用公开的 GPT-5.6 Sol）评估 gregbrockman.com 的安全性。这是一个托管在 AWS 上、由 Cloudflare 作为前端的简单静态站点，我本以为不会有太多攻击面。

大约 15 分钟内，它发现了 13 个问题，其中许多单独可能无法利用——但我可以想象它们与其他漏洞串联后会产生显著影响。我未配置 DNS 记录以防止攻击者伪造我的邮件；我的网站使用了不安全的 jQuery 版本；Cloudflare 通过未加密的 HTTP 将请求转发到 AWS。

随后我要求 ChatGPT Work 修复这些问题，它在一小时内完成了。它在我浏览器中打开 Cloudflare 控制面板，点击多个按钮正确配置 DNS、TLS 和高阶安全设置；它完全移除了网站的 jQuery；它帮我从 AWS 迁移到 Cloudflare Pages；它还开始分阶段部署 DMARC。

这还只是我的个人网站。这只是我们现有模型如何充当网络守护者的一个小例子——发现人类没有时间或专业能力处理的琐碎问题（它修复的许多设置我略知一二，但不清楚如何正确配置），并通过适当调整的部署计划进行修复。

OpenAI 如何保护自身

Hugging Face 事件表明我们低估了 AI 模型在现实世界中的网络能力。我们正在加强相应的安全要求，这也使我们现有的安全研究和内部安全工作更加紧迫。

分享 OpenAI 当前的安全策略，希望能对其他组织有所帮助。为保护 OpenAI，我们大力投资基础控制——正确做好基本工作——并通过前沿智能赋能防御。该战略有四大支柱。

第一，使用模型保护代码安全。Codex（包括其安全插件）验证代码更改、识别漏洞并帮助开发者在部署前修复问题。我们的目标不是简单产生更多需要人工验证的安全发现，而是在漏洞上线前捕获真实漏洞，并缩短从发现问题到安全部署修复的路径。随着我们持续训练模型生成更安全的代码，我们的目标是消除部分新编写代码中的软件漏洞类别。

第二，让模型持续防御我们的基础设施。如今，几乎所有初始安全警报都在人工介入前由智能体完成分诊。这减少了防御者的繁琐工作，提高了响应时间，并让人类将时间花在最能发挥技能的地方——辨别、判断和应用专业知识。我们越来越将这些检测连接到受限的自动响应，同时让人类负责最高影响的决策。目标是确保我们能够以机器速度检测和响应安全问题。

第三，使用前沿智能持续枚举、探测并识别潜在攻击路径。通过识别漏洞、错误配置、过度特权身份或意外信任边界，我们能够在攻击者利用之前快速发现并修补这些缺口。这使我们能够持续评估、监控和测试我们的安全不变量——我们认为成立的安全属性——涵盖产品、基础设施和系统。

第四，大规模投资基础安全。我们持续投资于安全架构和控制，采用纵深防御和最小权限等策略，并设计需要多个独立控制同时失效才会发生灾难性事件的系统。网络隔离、工作负载加固、监控、安全补丁和部署等经典安全控制在 AI 未来将比以往任何时候都更重要。

防御者现在应该做什么

时间紧迫，防御者需要以极速推进以下步骤。下面我会提到 OpenAI 的技术，但生态系统中也有许多竞争者可供评估。关键不在于具体工具，而在于立即让能干的 AI 进入防御者手中。

获得组织承诺和支持。我们正经历安全风险的快速变化——确保安全与工程组织拥有快速应对这些风险的资源、伙伴关系和支持。与团队进行桌面推演，模拟这些攻击如何在你所在组织中出现以及如何应对。
给安全团队配置一个智能体。开始使用 Codex、Codex 安全插件或另一个能干的智能体编码与安全工具。让它获得安全团队评估所需的代码库、基础设施配置和技术文档的授权访问。不要等待全公司推广，先从最高优先级的系统开始。
为该智能体配备安全专业知识。从社区支持的技能开始，其中包括静态分析、安全代码审查、漏洞变体分析、软件供应链风险和其他安全工作流。然后围绕组织的架构、安全标准、威胁模型和作战手册构建自己的技能。
立即对自己的系统进行安全评估。优先评估面向互联网的服务、身份验证流程、基础设施即代码、部署管道和处理敏感信息的系统。随着团队建立信心，扩大扫描范围。
处理现有漏洞积压。将代码扫描器、依赖警报、安全工单、漏洞赏金报告和先前评估的发现交给智能体，要求其进行分诊，区分可利用问题与噪音，识别代码库中其他地方的相关漏洞，并优先建议修复顺序。
将安全审查直接嵌入开发流程。在代码合并前使用智能体审查更改，并在 CI 中运行安全检查。查找身份验证错误、访问控制绕过、暴露的凭证、不安全的依赖、不安全的默认设置、扩大生产系统访问权限的更改以及其他漏洞。
让智能体帮助修复发现的问题。对于已验证的问题，要求其生成并验证聚焦的补丁、编写回归测试并确认漏洞不再复现。对重大更改保留人工审查，但消除识别真实问题与将安全修复交到工程师之间不必要的延迟。
逐步自动化检测分诊。不要一开始就试图构建自主安全运营中心。先从对一个仓库进行只读安全扫描开始，或让智能体使用对现有日志的只读访问权限审查先前已解决的警报。让它在人类做每个决定时总结证据并建议处置。随着信心增长，逐步转向咨询性拉取请求扫描，然后实时警报分诊，最后自动关闭明确定义的误报。
在需要之前准备好 AI 辅助取证调查能力。申请网络可信访问，让您的团队获准使用 GPT-Daybreak-Blue 进行授权防御工作，包括事件响应、检测工程和恶意软件分析。练习使用这一能力分析日志、遥测和安全警报。
实验、参加黑客周并快速迭代。我们需要构建各种新工具、改变工作方式并提升每个人的能力以适应即将到来的世界。鼓励员工进行实验，安排黑客周构建新能力，并专注于快速迭代那些自动化小部分问题的循环。快速渐进式进展将带来复合的防御成果，随着团队信心增强，可以逐步扩大自主性。