OpenAI 联合 Trail of Bits 推出 Patch the Planet 计划,利用 GPT-5.5-Cyber 等前沿模型辅助发现并修复开源软件漏洞。安全工程师人工审核结果后提交补丁,首批项目包括 Linux 内核、cURL、Python 等,旨在减轻维护者负担,提升关键基础设施安全性。

OpenAI 宣布推出 Patch the Planet 计划,这是 Daybreak 倡议下与 Trail of Bits 合作的项目,旨在帮助维护者强化世界依赖的关键开源软件。该计划将 AI 辅助安全研究(使用 OpenAI 最擅长网络安全的模型)与专家人工审查相结合,不仅识别漏洞,还协助修补它们。
AI 正在加速漏洞发现,但仅发现漏洞并不能保护用户。许多维护者已经面临着用有限的时间和资源更快处理大量报告的困境。Patch the Planet 的设计目标是减轻而非增加负担:安全工程师在将结果提交给维护者之前进行审查,与项目方共同开发补丁和测试,并构建可复用的工作流,帮助团队在首次修复后持续改善安全状况。
此外,OpenAI 还将与 HackerOne 和 Calif 合作,进一步推进漏洞分类、协调披露以及针对性的漏洞发现工作。
Patch the Planet 的每次合作都从与维护者协商开始。安全工程师与维护者共同了解项目的需求、偏好以及最需要额外安全投入的环节:漏洞验证、补丁开发、CI/CD 改进或长期安全工程。达成一致后,研究人员调查潜在漏洞,验证有意义的问题,开发或优化补丁,支持测试,并通过项目已有的渠道协调披露。
首批参与者包括 cURL、NATS Server、pyca/cryptography、Sigstore、aiohttp、Go 项目、freenginx、Python 和 python.org。这些项目涵盖广泛使用的网络、加密、软件供应链和语言基础设施,强化其安全性可使大量下游产品和服务受益。更多项目将在后续轮次加入。
安全研究人员可使用 OpenAI 的前沿模型和 Codex Security 来支持分析、补丁开发、测试和文档编写。参与项目可获得 ChatGPT Pro 访问权限、Codex Security 有条件访问权限以及用于核心开源开发、维护者自动化和发布工作流的 API 额度。Trail of Bits 还开发了用于去重、分类和补丁的 AI 辅助工作流,项目方可借助这些支持运行。
Trail of Bits 已派遣专职安全工程师全职使用 Codex 和 GPT-5.5-Cyber 在 19 个开源项目上工作,目前已发现数百个安全问题,并合并了数十个补丁,更多补丁仍在协调披露中。
首个冲刺阶段还产出了可复用的安全基础设施:模糊测试框架、历史 CVE 分析管线、差分测试系统、威胁模型、扩充的测试套件,以及用于去重、假阳性过滤、严重性修正和补丁生成的工作流。部分项目细节将在测试、修复和协调披露完成后分享。以下是团队早期构建和发现的几个例子:
一天内搭建模糊测试实验室。 Trail of Bits 工程师使用 Codex 重复执行 /goal 任务(结合 GPT-5.5-Cyber),构建了一个完整的模糊测试实验室,涵盖数十个入口点、变体构建、平台和新颖测试种子。工程师设定目标并优化提示词;系统随后利用覆盖率反馈不断扩展到新的测试面,针对边缘情况,并过滤弱候选或无效候选。
Trail of Bits 工程师发现,在有限指导下,GPT-5.5-Cyber 能做出有用的选择:在何处扩展覆盖、探测哪些构建和入口点、哪些候选太弱不值得继续。整个设置完成不到一天。Trail of Bits 估计,手动搭建同样的实验室通常需要至少数周。
用于发现已知漏洞变体的可复用管线。 团队构建了一个端到端系统:输入历史 CVE,提取相关漏洞模式,搜索目标代码库中的相关缺陷,并将候选结果交由专门的评判代理处理。该管线去重、过滤可能假阳性,并将最强证据路由给安全工程师进行人工确认。
这将对多年公开漏洞历史转化为跨项目可复用的搜索策略。Trail of Bits 发现模型在这种变体分析中尤为有效,揭示了审查代码库中的许多额外问题。
数天完成差分测试,而非数周或数月。 同一协议的不同实现通常应在相同输入下表现相同。当它们出现差异时,一个实现可能包含 bug。大规模应用这一想法通常很困难,因为工程师必须为每个实现编写自定义的 shim 和胶水代码以连接到通用测试框架。
Codex 生成了这些代码并迭代改进,使得多个实现可以相互模糊测试,并研究它们的行为差异。该工作流过滤了许多弱或无效结果,产生了一组相对高信号的候选供专家审查。团队在数天内取得这些结果,压缩了历史上需要数周或数月的工作。Trail of Bits 正在继续扩展和优化这些测试,然后发布项目特定细节。
根据规范测试软件行为。 团队使用 Codex 开发了威胁模型、攻击分类、不变性测试和基于属性的测试,这些测试以项目规范和 RFC 为基础。这些方法揭示了预期行为与实际行为之间的显著差异,同时为项目留下了更广泛的测试覆盖、更强的文档以及 CI/CD 和软件供应链工具的改进。
每个发现都在提交给维护者之前经过安全工程师审查。 Trail of Bits 工程师在每次向维护者提交前都人工审查了每一个安全问题,这一步骤的附加价值不可低估。虽然前沿 AI 模型在发现和修补漏洞方面能力很强,但它们也会产生大量假阳性,可能为已经不堪重负的维护者增加负担。Patch the Planet 的解决方案是让专职的 Trail of Bits 研究人员重现证据、对照项目特定文档和威胁模型检查发现、移除重复项、重新评估严重性,并优先确认的漏洞进行修复。他们还根据维护者偏好开发并提交补丁。维护者仍然控制哪些补丁被部署以及如何处理披露。
Patch the Planet 建立在 Daybreak 更广泛的工作基础上,展示了前沿模型如何帮助防御者发现、验证和修复广泛使用软件中的严重漏洞。
我们分享一些早期亮点,同时隐瞒漏洞利用机制和项目特定细节(尚在披露中的)。随着修复落地和协调披露结束,我们计划发布更深入的技术报告,详细介绍个别发现、研究方法、验证工作流以及其他防御者可以借鉴的经验。
我们的发现覆盖了软件栈的每一层,还有大量漏洞仍在披露过程中。
开源软件是共享基础设施。保护它应该是共同的工作。AI 正在改变漏洞发现的节奏,而当前的任务是确保这些好处能够到达最需要它们的维护者和用户手中。
Patch the Planet 旨在为维护者提供完整的防御闭环:发现、验证、严重性审查、披露、补丁开发、测试和部署。前沿模型可以让部分环节更快,但目标是给负责共享基础设施的人提供更好的工具和更强的能力,同时保留他们对变更如何落地的自主权。
这第一个冲刺阶段展示了维护者、安全工程师和 AI 辅助工作流之间持续协作的成果:即时修复、更强的项目基础设施,以及可以持续改进开源软件的可复用安全工作。
这只是一个开始。随着更多修复落地和协调披露完成,我们计划发布更深入的技术报告,介绍选定的发现、发现和验证它们的方法,以及防御者可以采用的、帮助保护人人都依赖的软件的工作流。如果你是维护者,你可以在此申请加入 Patch the Planet。
原文链接:OpenAI Blog
本文由前途科技编辑整理
免费获取企业 AI 成熟度诊断报告,发现转型机会
关注公众号

扫码关注,获取最新 AI 资讯
3 步完成企业诊断,获取专属转型建议
已有 200+ 企业完成诊断