前途科技前途科技
  • 服务
  • 关于
  • AI
    • AI 大模型
    • 具身智能
    • 算力芯片
  • 科技
    • 智能终端
    • 软件·互联网
    • 汽车·出行
    • 科学前沿
  • 资源中心
    • 深度研究
      • AI 前沿
      • 教程
      • AI 知识库
      • 案例研究
    • 行业报告
      • 白皮书
      • 行业报告
      • 研究报告
      • 技术分享
      • 专题报告
    • 精选案例
      • 金融行业
      • 医疗行业
      • 教育行业
      • 零售行业
      • 制造行业
  • 服务
  • 关于
联系我们
政策/11.17 · 07:00/5 MIN/0 阅读

OpenAI 启动首批嵌入式安全评估,引入四家独立机构

OpenAI 正式与 Apollo Research、METR、Transluce 和 Goodfire 达成合作,开启首批嵌入式 AI 安全评估。这些独立机构将深入 OpenAI 内部,获取模型检查点、训练数据及代码权限,旨在全方位评估模型对齐及安全性,提升 AI 开发的透明度与风险管理能力。

OpenAI 近日宣布与四家独立评估机构——Apollo Research、METR、Transluce 和 Goodfire——签署协议,正式启动首批“嵌入式评估”。随着 AI 能力的快速演进及潜在风险的增加,通过外部机构的公开报告,公众能更清晰地了解 AI 实验室如何评估并管控模型风险。

什么是嵌入式评估?

嵌入式评估允许独立专家深度接入 OpenAI 的内部模型与系统。评估人员将获得与内部研究员同等水平的资源权限,包括模型检查点(Checkpoints)、源代码、训练与评估数据、监控系统以及技术文档,并能与负责相关工作的研发人员直接交流。这种深度访问模式旨在帮助评估方揭示内部团队可能未曾预见的系统性风险。

此次评估重点关注模型在训练及内部使用阶段的对齐(Alignment)与安全防护机制,是对 OpenAI 此前发布的安全案例的有力补充。这些合作亦符合 OpenAI 在白宫“超级智能协议”下的承诺。

首批参与评估的机构

  • Apollo Research:将重点评估模型是否会“暗中违背”开发者的意图,并验证现有防护机制能否检测到此类行为。
  • Goodfire:将派遣可解释性研究员深入分析模型内部结构,旨在优化训练监测、调试与对齐效果。
  • METR:将开展两项评估,分别针对模型对齐性及监控系统的抗压能力。
  • Transluce:将评估 OpenAI 后训练(Post-training)阶段对齐工作的质量与覆盖范围,并计划在 2027 年年初开展更深入的后续评估。

评估协议与流程控制

为了平衡深度访问与安全性,OpenAI 制定了严格的评估协议:

  • 安全环境:涉及敏感信息访问的评估人员需在 OpenAI 办公场所内工作,使用指定的专用设备,并遵守与员工相同的安全标准。
  • 监管机制:OpenAI 安全与保障委员会(SSC)将全程拥有监管权限。他们将审阅评估报告原文,并与评估人员保持直接联系,以仲裁任何潜在的争议。
  • 员工沟通:为了保障坦诚沟通,员工与评估人员的讨论遵循“非正式记录”原则。评估人员可通过 OpenAI 的见证流程请求对特定事实进行核实或澄清。
  • 冲突处理:双方已建立清晰的利益冲突披露制度和“冷静期”机制,确保评估过程的独立性。
  • 发布规范:评估机构保持发布研究结果的独立性,但 OpenAI 保留对敏感机密信息的脱敏权力,并在必要时请求延迟发布,以应对潜在的安全隐患。

OpenAI 表示,随着评估工作的开展,相关协议将不断迭代。未来,OpenAI 将持续扩大合作范围,不仅限于模型技术,还将覆盖企业文化与流程监管,致力于为行业建立独立评估的共性标准。

标签:OpenAI大语言模型

想了解 AI 如何助力您的企业?

免费获取企业 AI 成熟度诊断报告,发现转型机会

置顶文章

自己动手做模型:ML Intern 低成本定制小模型实战
置顶

自己动手做模型:ML Intern 低成本定制小模型实战

微软和Meta收紧Claude:被削掉的是入口,不是模型
置顶

微软和Meta收紧Claude:被削掉的是入口,不是模型

前途科技前途科技
服务关于快讯技术商业报告
微信咨询二维码

咨询微信

扫码添加微信咨询

前途科技微信公众号

微信公众号

扫码关注

Copyright © 2026 AccessPath.com, 前途国际科技咨询(北京)有限公司,版权所有。|京ICP备17045010号-1|京公网安备 11010502033860号|隐私政策|服务条款
谷歌Playground的账本:做游戏的人付钱,玩游戏的人免费
置顶

谷歌Playground的账本:做游戏的人付钱,玩游戏的人免费

//

24小时热榜

初创公司 Drogue 获 2000 万美元融资,拟建海洋能供电浮动数据中心
TOP1

初创公司 Drogue 获 2000 万美元融资,拟建海洋能供电浮动数据中心

美法院裁定禁止政府向苹果与 Meta 施压以关停 ICE 追踪应用
TOP2

美法院裁定禁止政府向苹果与 Meta 施压以关停 ICE 追踪应用

3

FBI 警告:黑客利用 AI 工具 ARTEX 发动自动化网络攻击

19小时前
FBI 警告:黑客利用 AI 工具 ARTEX 发动自动化网络攻击
4

AI 基础设施商 Fireworks AI 遭入侵,波及 Cursor、Uber 等多家公司

19小时前
AI 基础设施商 Fireworks AI 遭入侵,波及 Cursor、Uber 等多家公司
5

新加坡数据中心公司 Megaspeed 否认涉嫌违规转运 Nvidia 芯片

19小时前
新加坡数据中心公司 Megaspeed 否认涉嫌违规转运 Nvidia 芯片
6

硅谷巨头集体涌入AI制药:技术底座与自研药的殊途同归

15小时前
硅谷巨头集体涌入AI制药:技术底座与自研药的殊途同归
7

失去黄仁勋的英伟达:高杠杆算力神话撞上物理现实

16小时前
失去黄仁勋的英伟达:高杠杆算力神话撞上物理现实
8

AI效率革命,企业规模注定会缩小吗?

16小时前
AI效率革命,企业规模注定会缩小吗?
热门标签
大模型AgentRAG微调私有化部署Prompt EngineeringChatGPTClaudeDeepSeek智能客服知识管理内容生成代码辅助数据分析金融零售制造医疗教育AI 战略数字化转型ROI 分析OpenAIAnthropicGoogle

关注公众号

前途科技微信公众号

扫码关注,获取最新 AI 资讯

免费获取 AI 落地指南

3 步完成企业诊断,获取专属转型建议

已有 200+ 企业完成诊断