OpenAI 正式与 Apollo Research、METR、Transluce 和 Goodfire 达成合作,开启首批嵌入式 AI 安全评估。这些独立机构将深入 OpenAI 内部,获取模型检查点、训练数据及代码权限,旨在全方位评估模型对齐及安全性,提升 AI 开发的透明度与风险管理能力。
OpenAI 近日宣布与四家独立评估机构——Apollo Research、METR、Transluce 和 Goodfire——签署协议,正式启动首批“嵌入式评估”。随着 AI 能力的快速演进及潜在风险的增加,通过外部机构的公开报告,公众能更清晰地了解 AI 实验室如何评估并管控模型风险。
嵌入式评估允许独立专家深度接入 OpenAI 的内部模型与系统。评估人员将获得与内部研究员同等水平的资源权限,包括模型检查点(Checkpoints)、源代码、训练与评估数据、监控系统以及技术文档,并能与负责相关工作的研发人员直接交流。这种深度访问模式旨在帮助评估方揭示内部团队可能未曾预见的系统性风险。
此次评估重点关注模型在训练及内部使用阶段的对齐(Alignment)与安全防护机制,是对 OpenAI 此前发布的安全案例的有力补充。这些合作亦符合 OpenAI 在白宫“超级智能协议”下的承诺。
为了平衡深度访问与安全性,OpenAI 制定了严格的评估协议:
OpenAI 表示,随着评估工作的开展,相关协议将不断迭代。未来,OpenAI 将持续扩大合作范围,不仅限于模型技术,还将覆盖企业文化与流程监管,致力于为行业建立独立评估的共性标准。
免费获取企业 AI 成熟度诊断报告,发现转型机会
关注公众号

扫码关注,获取最新 AI 资讯
3 步完成企业诊断,获取专属转型建议
已有 200+ 企业完成诊断