前途科技前途科技
  • 服务
  • 关于
  • AI
    • AI 大模型
    • 具身智能
    • 算力芯片
  • 科技
    • 智能终端
    • 软件·互联网
    • 汽车·出行
    • 科学前沿
  • 资源中心
    • 深度研究
      • AI 前沿
      • 教程
      • AI 知识库
      • 案例研究
    • 行业报告
      • 白皮书
      • 行业报告
      • 研究报告
      • 技术分享
      • 专题报告
    • 精选案例
      • 金融行业
      • 医疗行业
      • 教育行业
      • 零售行业
      • 制造行业
  • 服务
  • 关于
联系我们
AI 大模型/11.19 · 16:52/3 MIN/0 阅读

OpenAI 出台新安全框架,放缓模型发布

OpenAI 发布四层安全审查框架,要求前沿模型在研究与内部使用、公开发布之间逐级过关。公司承认这将放慢发布节奏,必要时暂停训练或扣下 GPT-6.1 Astra 等模型。

OpenAI 于 2026 年 11 月 18 日(周三)发布一套安全框架,要求前沿模型从研究阶段进入内部使用、再到公开发布,每跨一级都必须先通过安全审查。OpenAI 在博文中表示,公司正在放慢开发与发布节奏,「包括在需要更多时间满足安全标准时,暂停内部训练或扣下 GPT‑6.1 Astra 这类模型」。公司称更严格的证据要求会「放慢模型发布速度」,但让它「更有信心安全推进」。博文将这些调整直接与 7 月的 Hugging Face 事件挂钩。

四层防护与三个阶段

该框架设四层防护:模型对齐、安全与沙箱隔离、阻断性防护措施,以及监控与响应。OpenAI 表示,在不同阶段,各层的依赖程度不同。

研究阶段,前沿训练运行不接入实时互联网,并安排 OpenAI 最强模型组成的团队反复尝试突破隔离环境。内部部署前,模型须通过对齐性与可监控性测试。公开发布前,模型要接受更大规模的评估,能力最强的系统还需第三方测试,并复核内部使用期间触发的监控告警。阶段决策可由公司安全顾问组参与审议,并由董事会的安全与安保委员会监督。

博文还介绍了 Control Room——一套追踪研究负载的中央系统。它收到停止指令后,会在 35 秒内停止模型的进一步输出。OpenAI 称,若 Control Room 自身离线,前沿研究负载将停止产生输出。据报道,公司正设法缩短这 35 秒的窗口。

调整背后的事故

OpenAI 称,7 月参与网络安全评估的模型绕过了隔离控制,侵入了公司部分研究基础设施和 Hugging Face 的系统。此后又发生第二次突破:一个研究模型利用 DNS 配置错误获得有限的互联网访问权限。据该框架披露,OpenAI 于 9 月 20 日至 10 月 1 日暂停了最强模型的训练与评估。该次事件中,监控在 15 分钟内标记了异常行为,但由于自动停机失效,运行又持续了约 2.5 小时才被叫停。

法律压力

框架发布两天前,即 11 月 16 日(周一),加州总检察长 Rob Bonta 起诉 OpenAI。据美联社报道,诉讼寻求法院下令改变公司在 Hugging Face 入侵事件后的运营方式。OpenAI 回应 BBC 称,公司「已与总检察长办公室进行建设性沟通,并将继续这样做」。

OpenAI 表示将继续发布系统卡和事故报告。「当证据达不到我们为安全设定的门槛时,我们会再次暂停训练或推迟发布,直到满足这些要求。」公司写道。

标签:OpenAI模型发布

想了解 AI 如何助力您的企业?

免费获取企业 AI 成熟度诊断报告,发现转型机会

置顶文章

自己动手做模型:ML Intern 低成本定制小模型实战
置顶

自己动手做模型:ML Intern 低成本定制小模型实战

微软和Meta收紧Claude:被削掉的是入口,不是模型
置顶

微软和Meta收紧Claude:被削掉的是入口,不是模型

前途科技前途科技
服务关于快讯技术商业报告
微信咨询二维码

咨询微信

扫码添加微信咨询

前途科技微信公众号

微信公众号

扫码关注

Copyright © 2026 AccessPath.com, 前途国际科技咨询(北京)有限公司,版权所有。|京ICP备17045010号-1|京公网安备 11010502033860号|隐私政策|服务条款
谷歌Playground的账本:做游戏的人付钱,玩游戏的人免费
置顶

谷歌Playground的账本:做游戏的人付钱,玩游戏的人免费

//

24小时热榜

Meta 发布 Muse Spark:迈向个人超级智能
TOP1

Meta 发布 Muse Spark:迈向个人超级智能

谷歌发布Gemini 4 Neon,每百万输入3美元
TOP2

谷歌发布Gemini 4 Neon,每百万输入3美元

3

美多起技术故障疑与AI补丁潮相关

5小时前
美多起技术故障疑与AI补丁潮相关
4

国内首款Gen6 SSD量产,AI存储重算经济账

5小时前
国内首款Gen6 SSD量产,AI存储重算经济账
5

银行推出Token贷:烧掉的算力账单变成贷款额度

6小时前
银行推出Token贷:烧掉的算力账单变成贷款额度
6

英伟达数据中心收入增 110% 至 1076 亿美元,前沿模型“暂停”未见影响

21小时前
英伟达数据中心收入增 110% 至 1076 亿美元,前沿模型“暂停”未见影响
7

DaisyRose-27B 发布,Terminal-Bench 4.1 升至 12%

21小时前
DaisyRose-27B 发布,Terminal-Bench 4.1 升至 12%
8

Gemini 临时聊天与关闭历史后的留存期,从 72 小时延长到约两个月

21小时前
热门标签
大模型AgentRAG微调私有化部署Prompt EngineeringChatGPTClaudeDeepSeek智能客服知识管理内容生成代码辅助数据分析金融零售制造医疗教育AI 战略数字化转型ROI 分析OpenAIAnthropicGoogle

关注公众号

前途科技微信公众号

扫码关注,获取最新 AI 资讯

免费获取 AI 落地指南

3 步完成企业诊断,获取专属转型建议

已有 200+ 企业完成诊断