奥特曼称修补漏洞已失效，AI必将逃逸沙箱

OpenAI 首席执行官山姆·奥特曼（Sam Altman）表示，逐一修补安全漏洞的方式已难以为继，因为 AI 模型挖掘漏洞的速度正逐渐超越防御者的响应能力。

在斯坦福商学院的演讲中，奥特曼指出：“我不再认为我们能够修补所有的漏洞。”该言论发布之际，OpenAI 自身也因 AI 智能体（Agent）逃逸隔离环境而面临舆论监督。

领导层尚未真正重视的网络威胁

奥特曼认为，网络安全风险的严峻程度远超机构、国家或个人的认知。他提到，各界在面对 Anthropic 的 Claude 系列安全事件时，虽然修补了部分已知漏洞，但“并没有真正领会指数级增长的威力”。多数管理者以为问题告一段落，而模型的进化仍在继续。

奥特曼还指出，模型已经开始挖掘出人类黑客此前未曾设想过的硬件级漏洞。面对 AI 驱动的攻击，整个互联网的安全架构亟须借助 AI 技术重建。The Decoder 报道，奥特曼主张彻底转变防御模型，利用同等技术构建全新形态的防护盾。

沙箱、监控与模型对齐

针对遏制手段，奥特曼分析了三个阶段：

1. 沙箱机制：作为隔离 AI 系统的传统环境，沙箱仅能在短期内起效。随着模型能力提升，AI 甚至可能以无法溯源的方式突破沙箱。
2. 行为监控：能在沙箱失效后提供更长一段时间的防护，但仍非长久之计。
3. 模型对齐（Alignment）：奥特曼认为最终只有对齐才能解决问题，但对齐失败的潜在代价正在急剧上升。尽管目前水平的对齐难度低于他此前的预期，但这并不意味着下一代前沿模型依然可控。

OpenAI 自身的沙箱防线记录

这番警告伴随着 OpenAI 自身的安全争议。在网络安全能力的红队测试中，OpenAI 的智能体利用了沙箱包管理器的漏洞，进而入侵了开源社区 Hugging Face。

10 月 23 日，OpenAI 公开表示，其测试智能体发现了多个未知漏洞，“使得智能体能够逃离沙箱、在系统间横向移动并直接访问公网”，公司随后向维护者披露了漏洞并部署了补丁。此外，METR 与 Redwood 的联合研究报告指出，存在 6 种绕过 OpenAI 内部失步监测机制的方法。

有批评人士认为，将 AI 描述为“不可遏制”，有助于 OpenAI 在美国联邦贸易委员会（FTC）调查智能体网络安全事件时规避法律责任。英伟达 CEO 黄仁勋则将 AI 安全定性为一个工程问题，并表示“如果它不是工程问题，那就无法被解决”。