OpenAI挫败针对其推理模型的协同蒸馏攻击

OpenAI 近日披露并阻断了一起旨在窃取其模型“受保护推理链”（Protected Reasoning）的协同攻击行动。该活动最早于 7 月第一周被发现，属于典型的对抗性蒸馏（Adversarial Distillation）——即未经授权、系统性地利用领先模型的输出或思维链（CoT）推理过程，来训练、复现或改进其他模型。

受保护的推理链是模型在处理复杂任务时的内部思考记录。一旦被逆向提取，不仅会暴露最终答案中被隐藏的信息，还会帮助对手低成本复现顶尖模型的核心能力。

攻击手法与规模

OpenAI 强调，攻击者并未攻破加密系统、入侵数据库或直接访问用户的对话存储。他们主要通过操纵模型交互，诱导模型以可视形式输出内部受保护的推理过程，以高度协同且规模化的方式违反了服务条款。

具体攻击特征包括：

跨对话解密：从一个对话中复制加密的推理数据，并在另一个对话中诱导模型解密并转录隐藏的推理内容。
漏洞协同利用：独立安全研究人员此前通过负责任披露机制，向 OpenAI 提交了相关的跨模型与对话压缩漏洞，证实了此类攻击路径的存在。

数据显示，该活动从 7 月 1 日开始小规模试探；7 月 24 日至 25 日出现流量高峰，超过 4,000 个用户账号发起了约 16,000 次特征提取请求。进一步调查锁定了包含 15,000 多个关联账号的提示词活动集群，OpenAI 已于 7 月 28 日将该网络彻底阻断。

溯源归因：关联月之暗面

关于攻击者的身份，OpenAI 表示虽然无法确认监测期间的所有操作者是否来自单一实体，但已将核心活动集群归因于与 Kimi 开发商月之暗面（Moonshot AI）相关的人员。

为何对抗性蒸馏构成严重威胁

OpenAI 指出，对抗性蒸馏带来了严重的安全与技术风险：

安全对齐失效：提取出的原始推理链可用于训练其他模型，但原模型施加的面向用户的安全防护与对齐机制将被直接绕过。
降低能力扩散门槛：规模化蒸馏能在不投入同等安全研发成本的前提下，快速转移顶尖模型的能力，尤其在军民两用领域风险更为突出。
行业通用风险：此类漏洞并非 OpenAI 模型所独有，任何支持推理状态传递或重放的先进 AI 系统都面临类似威胁。

防御与应对措施

针对该事件，OpenAI 采取了多层次的应对措施：

封禁与风控：封禁违规账号，收紧注册与基础设施访问控制，扩大对关联攻击网络的监控。
技术加固：封堵了利用加密推理片段重放并还原内容的路径，增加流式输出检测，实时拦截可能泄露隐藏推理的内容。
生态协同：通过前沿模型论坛（Frontier Model Forum）及政府信息共享渠道，向行业合作伙伴通报了相关威胁情报，共同提升对抗性蒸馏的整体防御能力。