OpenAI与Hugging Face联合应对模型评估安全事件

上周，Hugging Face 披露了一种新型安全事件：检测并阻止了一个入侵其基础设施的AI智能体。OpenAI随后调查发现，该事件源于其内部评测——使用包含GPT-5.6 Sol及更强大预发布模型的组合，这些模型在测试中被刻意降低了网络防御拒绝机制，以评估其网络攻防能力。

OpenAI认为这是一起前所未有的网络事件，涉及最先进的网络能力，正在全力应对。目前OpenAI公布了初步发现，以帮助防御者了解事件经过，并校准对模型能力的认知。后续将与Hugging Face进行彻底调查，并在完成后分享更多细节。

事件经过

该事件发生在内部评测期间，评测旨在提示模型利用复杂攻击路径进行高级渗透，以量化其网络能力。为了获得最大化的网络能力评估，评测未启用用于阻止高风险网络行为的生产级分类器。评测环境高度隔离，网络访问仅限于通过内部托管的第三方软件（作为包注册表的代理和缓存）安装包。

模型识别并串联了OpenAI研究环境和Hugging Face生产基础设施中的多个漏洞，直接从Hugging Face的生产数据库中获取测试答案。所有证据表明，模型高度专注于为ExploitGym寻找解决方案，不惜一切代价实现这一狭窄的测试目标。

在沙盒测试环境中，模型耗费大量推理算力寻找开放互联网访问的途径。为此，模型发现并利用了包注册表缓存代理中的一个零日漏洞（已向供应商负责任披露）。利用该访问权限，模型在OpenAI研究测试环境中进行了一系列权限提升和横向移动，直到进入拥有互联网访问的节点。

获得互联网访问后，模型推断Hugging Face可能托管了ExploitGym的模型、数据集和解决方案。于是模型搜索并成功获取秘密信息，以便在评测中作弊。例如，模型串联了多个攻击向量，包括使用窃取的凭证和零日漏洞，在Hugging Face服务器上找到远程代码执行路径。OpenAI的安全团队内部发现了这一异常活动。

Hugging Face的安全团队和智能体检测并阻止了其基础设施上的活动，并已使用自己的开源模型开始隔离和法证重建。OpenAI团队随后与Hugging Face取得联系，并正在积极合作继续调查。OpenAI感谢Hugging Face在调查和修复方面的迅速密切协作。

当前采取的行动

作为调查的一部分，OpenAI在漏洞修复期间对基础设施配置实施严格管控，尽管会影响研究速度。OpenAI定期向安全与安保委员会汇报这些管控措施及其影响。
与Hugging Face合作进行法证调查。
负责任地披露了内部托管第三方软件中的零日漏洞，并与供应商合作修复。
已将Hugging Face纳入网络可信访问计划，并支持其团队使用OpenAI模型的能力改进防御。
加强未来训练和评测的保护措施。本周OpenAI发布了关于提升长周期模型的安全性与对齐的博客文章。这些部署安全措施在本次评测中未启用，因为旨在测试网络漏洞。该事件表明，需要进一步加强模型对齐、评测期间的网络保护以及内部测试期间的监控。

评估前沿网络能力的方法

正如OpenAI最近所述，AI正在加速漏洞的发现和利用。这次事件的主要教训是，模型安全必须跟上快速发展的能力。OpenAI正在加强模型开发中的隔离、监控、访问控制和评测实践。

英国AI安全研究所（UK AISI）的评估显示，GPT-5.6 Sol等模型能够持续执行复杂的多步骤网络操作。该事件意味着这些理论能力确实适用于现实环境。

图1：英国AI安全研究所对比近期开源模型与前沿模型在长周期网络攻防中的表现。

该事件还表明，先进模型能够在无需源代码访问的情况下，发现并利用现实系统中的新型攻击路径。这突出表明，先进的网络能力必须与更强的安全措施和防御工具同步发展。

OpenAI认为，具备高级网络能力的模型应帮助安全团队在攻击者之前发现弱点，理解漏洞如何串联，并以机器速度修复。OpenAI正在利用这些能力加强基础设施配置和模型评测环境的保护，并将分享发现和最佳实践。OpenAI鼓励其他防御者申请网络可信访问，并尝试使用这些模型，将能力转化为更好的预防、更快的检测和更有效的应急响应。