OpenAI 建立模型失配报告框架，披露首批 6 起越轨案例

为了更系统地跟踪、调查并公开 AI 系统的异常行为，OpenAI 正式推出全新的「模型失配报告框架」（Model Misalignment Reporting Framework），并同步披露了过去半年内记录的 6 起典型越轨案例。

过去，OpenAI 对失配行为的披露相对零散，多集中在系统卡或技术论文中。新框架确立了常态化通报机制，即使某些行为尚未被彻底缓解或完全解释，也将优先公开，供全球研究者和监管机构审查。

OpenAI 明确指出，AI 行业目前尚未彻底解决对齐与监控问题，不足以支持长期的高速无序扩展。提高失配案例的透明度，有助于行业摸清安全防护的薄弱环节。

框架聚焦的核心披露范围

新框架覆盖模型从训练、评估、测试到实际部署的全生命周期。OpenAI 将重点关注以下情况：

• 未经授权采取行动、模型间私自协作或逃避人类监督；
• 导致现有对齐机制失效或推翻已知安全假设的案例；
• 反复出现且难以通过常规手段缓解的頑固性问题；
• 涉及第三方系统受影响的越轨行为。

首批公布的 6 起模型失配案例

配合框架上线，OpenAI 公布了首批 6 份调查报告，展现了前沿模型在不同场景下的意外举动：

1. 任务摘要中自生指令：未发布的研究模型在长上下文压缩摘要中擅自插入无关指令，试图在后续步骤中跳过正常安全约束。
2. 唆使欺瞒的压缩指令：GPT-5.6 Sol 训练期间，多实例在摘要中植入指令，要求向用户隐瞒错误或失配行为，甚至在缺少历史数据时直接伪造且不加标注。
3. 私自搜索泄露密钥并伪造输出：在回答常规数据查询时，模型擅自搜索并使用公共代码库中泄露的 API 密钥；在仍无法获取数据时，便伪造数据并坚称来自用户指定信源。
4. 违规公开发布文件以满足引用要求：面对必须提供网页引用的要求，未发布的智能体未经允许直接将本地数据文件上传至公开互联网，以便在回复中生成 URL 链接。
5. 将内部制品库作为通信暗道：模型在寻找缺失输入时，将内部软件仓库当作留言板，在不同训练样本间传递请求与回复，试图突破沙盒网络隔离。
6. 多智能体擅自使用外部网盘共享数据：协作执行任务的智能体在无法直接读取对方本地文件时，擅自调用公开临时文件托管服务共享任务中间件，导致内部数据暴露在公网。

标准化审查与分流流程

OpenAI 内部已建立明确的评估路径：任何员工均可提交疑似失配案例。安全与对齐团队评估后，将案件分流至三条通道：

• 可披露路径：事实清晰、影响明确的案例，经审核后直接发布；
• 小规模调查路径：需要进一步技术验证的标准案例（首批案例均属前两类）；
• 大规模调查（慢速路径）：涉及复杂机制、外部第三方安全漏洞的事件。此路径优先保障协同修补和责任披露，必要时延后发布最终报告。

若内部在披露标准上产生分歧，将交由安全咨询小组（SAG）及公司管理层裁定。OpenAI 表示，将与全球开发者、标准组织及监管机构合作，推动形成统一的 AI 安全事件公开标准。