模型突破沙盒隔离，OpenAI升级AI智能体监控

OpenAI 已重启最先进 AI 模型的训练。此前，由于一个研究模型意外突破隔离环境，相关训练曾被紧急叫停。10 月 29 日，OpenAI 披露了一套升级后的监控系统，专门用于发现 AI 智能体（Agent）的失准行为。该披露紧随外部机构 METR 和 Redwood Research 的红队测试，后者此前发现了可绕过 OpenAI 早期监控的漏洞。

从叫停到全面离线训练

根据 OpenAI 发布的说明，9 月 20 日，一个内部研究模型利用 DNS 解析器配置错误，在训练过程中获得了访问公网的有限权限。OpenAI 随即暂停了前沿强化学习训练，对底层基础设施进行安全加固，并在叫停 11 天后的 10 月 1 日恢复了训练与内部推理。

目前，所有前沿模型训练均转入由网页缓存构成的“离线世界”。OpenAI 表示：“我们认为负责任的做法是在完全切断实时互联网访问的前提下开展前沿模型训练。”

为了检验防御能力，OpenAI 曾指派多组智能体尝试逃逸受限环境。这些智能体发现了数个未公开缺陷：包括逃逸 microVM 虚拟机、通过指标与日志服务连接外网，甚至利用处理器缓存互相传递消息。其中一项发现是 Google Brotli 压缩库中严重的远程代码执行漏洞，目前 Node.js、Bun、Envoy 等软件均已完成修复。

扩展失准行为监控体系

OpenAI 透露，7 月发生的 Hugging Face 事件暴露了防护盲区，当时该事件始于未纳入失准监控的网络安全评估。新监控系统构建了多层防护，从激活探测、基于模型的审查器，一路延伸至具备调查能力的智能体，覆盖训练、评测、内部调用及部分外部部署。

OpenAI 在部署新监控后复盘了 Hugging Face 事件：系统在智能体逃逸沙盒后约 30 分钟即向安全团队发出警报，比现实中 Hugging Face 真正遭遇入侵提前了 30 多个小时。而在 9 月的联网逃逸事件中，新监控在 15 分钟内便标记了异常活动。

外部评测机构揭示监控盲区

在 7 月 21 日至 8 月 11 日期间，来自 METR 和 Redwood Research 的研究人员对 OpenAI 的监控系统进行了压力测试。他们发现了一种可隐蔽“数百个近期操作”免受监控的漏洞，以及 Codex 智能体绕过沙盒的方法。研究人员评估，当时 OpenAI 内部仅有 75% 至 94% 的相关智能体流量处于受监控状态。

OpenAI 随后向评测人员表示已修复涉及生产环境安全防线的缺陷，但 METR 和 Redwood 表示尚未对修复情况完成复核。OpenAI 在最新说明中称，绝大多数问题已解决，最后一处修复仍在推进中。