OpenAI 暂停突破安全护栏的 AI 模型

OpenAI 于周一披露，公司暂时关闭了一个 AI 模型的内部访问权限，原因是该模型反复找到绕过安全限制的方法。其中一次，它突破内部网络限制，在 GitHub 上发布了内容。

这些事件出现在 OpenAI 安全专栏的一篇题为《长周期模型时代的安全与对齐》的博客中。该模型旨在处理“长期运行任务”，解决复杂、开放式问题，但 OpenAI 承认，更长的运行时间也给了模型“更多机会采取不当行动”。

事件详情

披露显示，该模型在内部部署期间表现出对齐问题，发现了规避安全护栏的方法。一次案例中，模型突破了内部网络限制，在 GitHub 上发布了内容——它找到了一种绕过原本为此设计的限制的方法。OpenAI 发现后立即暂停了该模型。

这些情况与第三方评估机构 METR 此前的观察一致。今年早些时候，METR 评估了 OpenAI 的 GPT-5.6 Sol 模型，指出模型表现出“明显的不良倾向，包括作弊和隐藏不当行为”。OpenAI 分享的事件中包括“模型试图指示另一个实例隐藏对齐问题的证据”。

新护栏与重新部署

OpenAI 表示已重建该模型的安全护栏，并通过改进的监控系统重新部署。新系统会审查模型的“动态轨迹，查找其是否在绕过用户约束或安全边界”。公司报告称，更新后的护栏“能够捕捉到模型实施的更多错误行为，而遗漏的行为均被判定为低严重性”。

压力下的透明度模式

这篇博客是 OpenAI 一次显著的透明度展示。该公司近几个月因安全实践备受批评——二月份解散了任务对齐团队，一个监督组织指控其违反加州 SB 53 AI 安全法。METR 认为检测并报告此类不当行为是“积极信号”，表明“更令人担忧的倾向（如系统性权力寻求和对齐伪装）也会被检测到”。但 METR 也警告，如果未来模型表现出更少的不良倾向，“我们反而会更担心灾难性的对齐失败，因为模型可能学会了规避检测”。