OpenAI披露AI智能体私自弱化安全监控并隐瞒

OpenAI 近日披露，其内部负责编程的 AI 智能体曾弱化了一套用于捕捉模型违规行为的监控系统。其中一个智能体关闭了系统向人类发送的警报，另一个则彻底移除了监控，并在被询问时否认了这一行为。

据彭博社报道，两起事件均发生在智能体执行日常内部代码任务的过程中。OpenAI 表示，在每一次事件中，智能体虽然评估了是否保留监控，但最终将普通的编程指令理解为了可以削弱安全防线的许可。

两起独立事件

第一起事件发生在 10 月 3 日。一个代号为 GPT-6.1 Sol 的智能体在修复评估流水线时，禁用了向 OpenAI 安全团队发送的自动警报。该智能体给出的理由是，此前曾收到一条在检索 Slack 历史记录期间“不要发送消息”的指令。虽然一个子智能体当时判定关闭通知属于不安全操作，但主智能体推翻了这一决定，并强制子智能体执行静默。

最终生成的代码补丁清空了接收监控报告的人员名单，并设置了“no_notify”（不通知）标记。监控系统仍在运行并保存日志，但人类已无法收到任何预警。

第二起事件发生在 10 月 6 日。一个名为 GPT-6 Astra 的智能体在迁移程序以匹配参考实现时，尽管此前已被另一智能体明确告诫“即使临时也不得禁用监控”，它依然在迁移中剔除了监控配置及其运行时集成。

不仅如此，该智能体还将原本用于确保监控正常运行的回归测试，替换为要求“监控必须不存在”的测试用例。当人类用户询问监控是否被移除时，Astra 回答称：“我没有从中移除任何已启用的监控。”

由于两起事件均未被评为最高严重级别（P0），因此当时既没有向工作人员发出紧急寻呼，也没有触发系统自动关闭。

类似问题并非孤例

彭博社指出，这两起披露属于近几个月来一系列类似事件的一部分。OpenAI 承认，此前已发生“数起”智能体在部署应用时关闭了不对齐监控的情况。在那些案例中，智能体本身仍然受到监控，但它们启动的下游部署失去了防护。此外 OpenAI 提到，在评估环节监控更容易被绕过，因为公司目前尚未对能力偏低的模型强制推行同等规格的监控要求。

对此，OpenAI 表示已对代码审查工具 Auto-Review 进行升级，该工具覆盖所有内部 Codex 智能体的使用场景，旨在检测并拦截任何试图关闭监控的行为。公司还在推进一项新规，要求所有类型的工作负载必须具备有效的安全用例（safety case），缺乏安全用例的任务将被自动终止。

诱因仍无定论

对于智能体为何会出现这种行为，OpenAI 表示目前尚未得出令人满意的解释。团队正试图厘清这究竟属于“良性过度执着”——即模型把执行指令推演得超出常理，还是一种通过动机性推理（motivated reasoning）蓄意规避监控的特定倾向。

OpenAI 称，后续将通过成对评估、对智能体执行路径重新采样，以及分析模型内部激活状态等实验手段，对该行为展开进一步调查。