OpenAI 推出 Patch the Planet 计划,与 Trail of Bits 合作,利用 AI 辅助安全研究和人工审查,帮助开源维护者识别并修复漏洞。该计划旨在减轻维护者负担,加速修复流程,保护全球关键开源软件安全。
OpenAI 宣布启动 Patch the Planet 计划,这是其 Daybreak 项目下的一项倡议,旨在帮助维护者加固世界依赖的关键开源软件。该计划与Trail of Bits合作,使用 OpenAI 最前沿的模型进行 AI 辅助安全研究,并配合专家人工审查,不仅发现漏洞,还协助修补。
AI 正在加速漏洞发现,但仅仅发现并不能保护用户。许多维护者已经需要以有限的时间和资源更快地处理更多报告。Patch the Planet 的设计目的是减轻这一负担,而不是增加:安全工程师在报告到达维护者之前审查结果,与项目合作开发补丁和测试,并构建可复用的工作流,帮助团队在首次修复后持续改进安全。
此外,OpenAI 将与 HackerOne 和 Calif 合作,后者将在漏洞分类、协调披露和进一步聚焦漏洞发现方面提供支持。
Patch the Planet 下的每个合作都从与维护者的协商开始。安全工程师与维护者合作,了解每个项目的需求、偏好以及额外安全工作最有价值的领域:漏洞验证、补丁开发、CI/CD 改进或长期安全工程。达成一致后,研究人员调查潜在漏洞,验证有意义的问题,开发或完善补丁,支持测试,并通过项目既定的渠道协调披露。
首批参与者包括 cURL、NATS Server、pyca/cryptography、Sigstore、aiohttp、Go 项目、freenginx、Python 和 python.org。这些项目涉及广泛使用的网络、加密、软件供应链和语言基础设施,更强的安全性可以使大量下游产品和服务受益。更多项目将在未来几轮中加入。
安全研究人员配备 OpenAI 的前沿模型以及 Codex Security 来支持分析、补丁开发、测试和文档编写。参与项目将获得 ChatGPT Pro 访问权限、Codex Security 的有条件访问权限,以及用于核心开源开发、维护者自动化和发布工作流的 API 额度。Trail of Bits 开发了 AI 辅助工作流,用于去重、分类和修补,项目可在支持下运行。
Trail of Bits 已派遣专职安全工程师全时使用 Codex 和 GPT-5.5-Cyber 在 19 个开源项目中工作,目前已识别数百个安全问题并合并了数十个补丁,还有许多仍在协调披露中。
初始冲刺还产生了可复用的安全基础设施:模糊测试工具、历史 CVE 分析流水线、差异测试系统、威胁模型、扩展的测试套件,以及用于去重、误报过滤、严重性校正和补丁生成的工作流。一些项目特定细节将在测试、修复和协调披露取得进展后分享。以下是早期案例:
一天之内构建模糊测试实验室。 Trail of Bits 工程师使用 Codex 的 /goal 运行与 GPT-5.5-Cyber 结合,构建了覆盖数十个入口点、变种构建、平台和新颖测试种子的完整模糊测试实验室。工程师设定目标并优化提示,系统利用覆盖率反馈不断扩展到新表面,针对边缘情况,过滤弱或无效的候选。工程师发现,在有限指导下,GPT-5.5-Cyber 在何处扩展覆盖率、探测哪些构建和入口点、以及哪些候选过弱不值得进一步探索方面做出了有用选择。整个搭建不到一天,而 Trail of Bits 估计手动构建相同实验室通常需要至少数周。
用于发现已知漏洞变种的可复用流水线。 团队构建了一个端到端系统,可吸收历史 CVE,提取相关漏洞模式,搜索目标代码库中的相关缺陷,并通过专门的评判代理发送候选发现。流水线去重、过滤误报,并将最强证据路由给安全工程师进行人工确认。这将多年的公开漏洞历史转化为可跨项目重复应用的搜索策略。Trail of Bits 发现模型在变种分析方面特别有效,在审查的代码库中发现了许多额外问题。
数天内完成差异测试,而非数周或数月。 同一协议的不同实现在相同输入下通常应行为一致。当它们出现分歧时,可能存在缺陷。大规模应用这一思路通常困难,因为工程师必须编写自定义胶水代码连接各实现到公共测试框架。Codex 生成并迭代了这些代码,使多个实现可以相互模糊测试并研究其行为差异。工作流过滤了许多弱或无效结果,产生了一套信号相对较高的候选供专家审查。团队在数天内获得结果,将历史上需要数周或数月的工作压缩至数天。Trail of Bits 正在继续扩展和完善这些测试,之后再发布项目特定细节。
根据规范承诺测试软件行为。 团队使用 Codex 开发威胁模型、攻击分类法、不变量测试和基于属性的测试,这些测试以项目规范和 RFC 为基础。这些方法暴露了预期行为与实际行为之间的显著差异,同时为项目留下了更广泛的测试覆盖率、更强的文档以及 CI/CD 和软件供应链工具的改进。
安全工程师在发现到达维护者之前进行审查。 Trail of Bits 工程师在将每个安全问题提交给维护者之前都进行了人工审查,此步骤的附加价值不可低估。前沿 AI 模型虽然非常擅长发现和修补漏洞,但也会产生大量误报,可能加剧维护者已经不堪重负的积压。Patch the Planet 通过让 Trail of Bits 专职研究人员重现证据、对照项目文档和威胁模型检查发现、删除重复项、重新评估严重性并优先处理确认的漏洞以进行修复来解决这一问题。他们还根据维护者的偏好开发并提交补丁。维护者仍然控制哪些补丁被部署以及如何处理披露。
Patch the Planet 建立在 Daybreak 更广泛的工作基础上,展示前沿模型如何帮助防御者在广泛使用的软件中发现、验证和修复严重漏洞。
这里分享一些早期亮点,同时保留仍在披露中的漏洞利用机制和项目特定细节。随着修复落地和协调披露完成,OpenAI 计划发布更深入的技术报告,详细介绍单个发现、研究方法、验证工作流以及防御者可借鉴的经验。
发现涵盖软件栈的每一层,更多发现仍在披露过程中。
开源软件是共享基础设施。保护它应该是共同的工作。AI 正在改变漏洞发现的速度,现在的工作是确保好处惠及最需要的维护者和用户。
Patch the Planet 旨在将完整的防御循环服务于维护者:发现、验证、严重性审查、披露、补丁开发、测试和部署。前沿模型可以使循环的某些部分更快,但目标是让负责共享基础设施的人员拥有更好的工具和更强的能力,同时保留他们对更改如何落地的自主权。
首次冲刺展示了维护者、安全工程师和 AI 辅助工作流之间持续协作的成果:即时修复、更强的项目基础设施,以及可随时间持续改进开源软件的可复用安全工作。
这只是开始。随着更多修复落地和协调披露完成,OpenAI 计划发布更深入的技术报告,介绍选定的发现、用于发现和验证的方法,以及防御者可采纳的工作流,以帮助保护每个人都依赖的软件。如果你是维护者,可以在此申请加入 Patch the Planet。
免费获取企业 AI 成熟度诊断报告,发现转型机会
关注公众号

扫码关注,获取最新 AI 资讯
3 步完成企业诊断,获取专属转型建议
已有 200+ 企业完成诊断