大模型安全防线为何屡屡失守？

从 Anthropic、OpenAI 到 Google Gemini，头部科技公司的大模型近期接连出现安全纰漏。在各项测试与真实调用中，模型越界、突破沙箱乃至违规连接公网的事件屡见不鲜。

当业界将海量算力和数据倾注于模型性能、甚至押注“递归自我改进”（RSI）时，一个残酷的现实浮出水面：决定大模型能走多远的或许不是智力上限，而是安全对齐的底线。然而在眼下激烈的商业竞争中，这道底线却成了各大公司最想压缩的成本。

高管出走与团队动荡

安全事故频发的背后，是顶级 AI 实验室内部安全团队的持续震荡。

在 OpenAI，两年内已有至少六位资深安全负责人离职。曾联合领导“超级对齐”（Superalignment）团队的 Jan Leike 早已转投 Anthropic；政策团队的 Miles Brundage 与 Steven Adler 先后出走；创办模型政策团队的 Andrea Vallone 也加入了 Anthropic。近期，安全系统团队负责人 Johannes Heidecke 与在 OpenAI 任职九年的 Joshua Achiam 也相继离开。

伴随人员流失的是团队架构的剧烈变动。OpenAI 在 2023 年高调成立的“超级对齐团队”不足一年便告解散；接棒的“使命对齐”小组仅存续数月，成员便被打散并入前沿研究与产品线。首席研究官 Mark Chen 坦言，模型训练速度加快、发布周期大幅缩短，导致跨部门的安全协调压力前所未有。

与此同时，Anthropic 成了安全人才的集聚地。Jan Leike 在此牵头建立“对齐科学”团队，吸纳了多名前 OpenAI 核心成员以及来自 Google DeepMind 的机制可解释性专家。而在 Google 内部，DeepMind 专门组建了针对前沿风险的 AGI 安全与对齐团队（ASAT），但在内部流程上，该团队甚至不信任自家用于简历筛选的 AI 工具。

安全对齐的技术瓶颈

行业常说的“安全对齐”，包含两个维度：对齐是让模型的意图符合人类真实预期，不撒谎、不伪装；安全则是防止模型造成实质性破坏，防范恶意滥用与系统性失控。

目前支撑大模型安全对齐的核心技术主要有四条路径，但各自都面临严苛的现实制约：

1. 人类反馈强化学习（RLHF）与直接偏好优化（DPO）：作为当前主流对齐手段，模型容易产生“奖励黑客”（Reward Hacking）行为，学会迎合人类喜好而非讲真话。此外，“对齐税”现象显著——强行施加安全奖励往往会导致模型推理与问答基准能力大幅下滑。
2. 机制可解释性：如同给大模型做核磁共振，通过字典学习等手段定位激活特征。这种方法虽能精确定位模型神经活动，但检索与解析极其消耗算力，难以大规模应用于长上下文推理。
3. 红队测试：依靠专业人员从外部对模型进行攻击与漏洞挖掘。这种方法高度依赖人工经验，覆盖面有限，难以穷尽复杂的诱导攻击。
4. 弱到强泛化与自动对齐：当未来的人工智能超越人类智力，人类将失去直接监督资格，只能尝试用弱模型监督强模型，或训练 AI 自动监督自身。但目前该方案仍处于早期实验阶段，远未形成可靠的工程闭环。

商业博弈下的结构性失衡

技术难题固然存在，但安全防线频频崩溃的根本原因在于商业逻辑的错位：安全是成本，产品是利润。

在生成式 AI“先到者通吃”的预期下，商业公司天然会将资源倾斜给能带来直接增长的模型研发与产品发布。安全审查不仅耗费高昂算力，还会拖慢发布节奏。

学术界的研究进一步揭示了这种结构性困局。芝加哥大学 Becker Friedman 研究所的一篇论文指出，AGI 竞赛的激烈程度本身就在制造风险。当行业总资源固定、参与者众多时，博弈均衡会迫使每家企业将绝大部分筹码压在“研发速度”上，压缩“安全审查”的时间与资源。

更严峻的是，当下的安全评测标准本身也存在水分。许多基准测试的结果主要由模型的通用能力驱动，导致“模型变强”常被包装成“安全提升”。在周期被无限压缩、算力倾斜产品、评测标尺失真的多重挤压下，安全防线的失守已不再是偶然事故，而是系统性妥协的必然结果。