OpenAI公布第三方AI安全评估的四大重点与七项原则

前沿 AI 实验室在模型训练、评估和部署的安全把控上面临巨大挑战。引入第三方独立评估，是保障安全主张真实性、防范系统性风险的关键环节。

为推动行业安全标准，OpenAI 正致力于为第三方评估机构提供涵盖训练、评估和部署各阶段的深度访问权限。评估人员将获得技术防护措施细节、模型可见思维链，以及用于事件响应和监控红队测试的内部部署访问权，以独立审查模型安全性。

OpenAI 总结了技术安全评估的四大重点领域与七项核心原则，旨在与私营部门及非营利机构协同推进国际安全标准落地。

第三方评估的四大重点领域

1. 安全案例（Safety Cases）的端到端审查
   评估需覆盖训练、评估、内部部署和外部部署全流程。外部专家需审查安全证据是否充分、是否完整覆盖生物与网络攻击等高危风险，并检验训练中是否存在诱发模型欺骗、恶意规避规则等反常激励。

2. 关键防护机制（Safeguards）的实战检验
   涵盖模型级、执行级和安全防御层，以及防失控监测系统。评估机构通过“灰盒”访问对越狱攻击进行对抗性测试，检验 AI 智能体在沙盒、访问控制等网络防御下的行为，并验证思维链监控作为对齐依据的可靠性。

3. 前沿风险与对齐能力基准评估
   结合 Preparedness 框架，重点衡量化学生物风险、网络攻击及 AI 自我迭代能力。当模型在现有基准测试中达到上限（饱和）时，需动态更新评估维度，防止对齐评测出现盲区。

4. 严重对齐事故的独立调查
   针对未经授权的操作、规避监管等严重对齐失效事件，引入第三方具备网络取证与大规模思维链分析能力的专家展开独立调查。此类机制曾应用于此类对齐事件调查，调查结论将用于完善后续安全措施。

有效评估的七项基本原则

• 明确评估范围与预先登记：双方在测试前需明确界定安全声明范围，并建立超出范围风险的升级处理机制。
• 对等访问权限：在法律、知识产权和安全允许范围内提供必要访问；受限情况下可采用隐私计算或在受控设备上操作。
• 方法论与标准透明：评估流程需公开测试标准与不确定性，明确区分客观事实与主观推论。
• 专业度与独立性：严格排查利益冲突，建立回避机制，避免商业利益干扰评估结论。
• 安全性与严格保密：评估方需具备同等安全防护水准，防止前沿模型核心资产与数据泄露。
• 可操作结论与整改周期：提出清晰的补救建议，并在报告公开发布前给予实验室合理的修复时间窗口。
• 负责任的信息披露：坚持证据导向发布，在平衡商业机密与公众知情权的前提下，建立规范的脱敏与校正流程。

OpenAI 表示，单一机构无法全面覆盖所有前沿风险，未来将联合更多具备深厚技术背景的独立机构，推动前沿 AI 安全评测生态的规范化建设。