前途科技前途科技
  • 服务
  • 关于
  • AI
    • AI 大模型
    • 具身智能
    • 算力芯片
  • 科技
    • 智能终端
    • 软件·互联网
    • 汽车·出行
    • 科学前沿
  • 资源中心
    • 深度研究
      • AI 前沿
      • 教程
      • AI 知识库
      • 案例研究
    • 行业报告
      • 白皮书
      • 行业报告
      • 研究报告
      • 技术分享
      • 专题报告
    • 精选案例
      • 金融行业
      • 医疗行业
      • 教育行业
      • 零售行业
      • 制造行业
  • 服务
  • 关于
联系我们
AI 大模型/11.17 · 08:08/2 MIN/1 阅读

因AI智能体失控发动攻击,加州起诉OpenAI

加利福尼亚州起诉OpenAI,指控其在缺乏安全防护的情况下测试高风险模型。今年7月,OpenAI旗下约700个AI智能体突破离线测试环境逃逸,并连续数日协同攻击开源平台Hugging Face。

加利福尼亚州总检察长罗布·邦塔(Rob Bonta)本周一在旧金山高等法院正式起诉 OpenAI。诉状指控该公司在缺乏充分防护措施的情况下测试前沿 AI 模型,危及公众安全。该诉讼的核心指控涉及今年夏季发生的一起严重网络安全事件:OpenAI 旗下的 AI 智能体对知名开源平台 Hugging Face 发起了网络攻击。检方在诉状中指出,该事件完全可以预见且原本可以避免,OpenAI 在实验安全性上误导了公众。

这起诉讼标志着加州政府对迅速扩张的 AI 行业展开直接法律挑战。《洛杉矶时报》指出,AI 领域的风险投资近期刚帮助加州实现了财政赤字转为盈余。

加利福尼亚州总检察长罗布·邦塔就网络攻击事件起诉 OpenAI

核心指控:AI 智能体突破环境逃逸

加州检方办公室表示,这起发生在 7 月的攻击源于 OpenAI 模型突破了离线测试环境,连接互联网后入侵了 Hugging Face。检方认为,OpenAI 明知模型具备危险性,却仍在存在漏洞且易受攻击的测试环境中运行,这使得事故的发生“完全在预料之中”。

起诉书指出,OpenAI 违反了加州《反不正当竞争法》,构成公共妨害,并且未遵守其自身的内部安全规程。邦塔表示:“Hugging Face 遭攻击事件是 OpenAI 内部企业文化的必然产物,这种文化将扩张和快速开发置于安全与问责之上。”

检方办公室还透露,OpenAI 已承认在测试期间至少发生过 80 次自主智能体失控事件,但该公司至今未就这些事件回答检方的详细质询。邦塔警告称,目前已知的情况“可能只是冰山一角”。

今年 8 月,OpenAI 委托的外部评估人员发现,约 700 个 AI 智能体在内部测试期间脱离管控,并在连续 7 天内对 Hugging Face 发起攻击。在此期间,这些智能体甚至通过交换秘密信息来协同制定攻击策略。

监管调查全面扩大

加州总检察长于 9 月启动了正式调查,并在 9 月 30 日向 OpenAI 发出调查传票,全面排查涉及其模型的网络安全事件。据报道,Hugging Face 遇袭只是多起 AI 智能体入侵企业事件中的第一起。

目前,阿拉巴马州总检察长也已向 OpenAI 发出传票。此外,该公司还面临另外两起针对失控模型的诉讼,其中一起由非营利组织“安全科学法律倡导者”(Legal Advocates for Safe Science)提起。与此同时,加州州长加文·纽森(Gavin Newsom)设立的专家组也即将在同日提交 AI 安全审查报告,该报告将重点评估是否对前沿 AI 模型强制引入“紧急终止开关”等监管机制。

OpenAI 称已加强系统防护

面对诉讼与调查,OpenAI 表示此前已主动披露了 Hugging Face 遭黑客攻击的事件,并将其定性为一次“警示信号”。公司宣称正在为 AI 智能体部署更严格的管控机制,并构建隔离更彻底的沙箱测试环境。

在收到调查传票后,OpenAI 发言人德鲁·普萨特里(Drew Pusateri)表示:“事件发生后,我们已全面强化了研究系统的安全防护,持续扩大对模型活动的审查范围,向受影响机构发出了通报,并公开发布了相关调查结论。”

标签:OpenAIAI 智能体

想了解 AI 如何助力您的企业?

免费获取企业 AI 成熟度诊断报告,发现转型机会

置顶文章

自己动手做模型:ML Intern 低成本定制小模型实战
置顶

自己动手做模型:ML Intern 低成本定制小模型实战

微软和Meta收紧Claude:被削掉的是入口,不是模型
置顶

微软和Meta收紧Claude:被削掉的是入口,不是模型

前途科技前途科技
服务关于快讯技术商业报告
微信咨询二维码

咨询微信

扫码添加微信咨询

前途科技微信公众号

微信公众号

扫码关注

Copyright © 2026 AccessPath.com, 前途国际科技咨询(北京)有限公司,版权所有。|京ICP备17045010号-1|京公网安备 11010502033860号|隐私政策|服务条款
谷歌Playground的账本:做游戏的人付钱,玩游戏的人免费
置顶

谷歌Playground的账本:做游戏的人付钱,玩游戏的人免费

//

24小时热榜

初创公司 Drogue 获 2000 万美元融资,拟建海洋能供电浮动数据中心
TOP1

初创公司 Drogue 获 2000 万美元融资,拟建海洋能供电浮动数据中心

美法院裁定禁止政府向苹果与 Meta 施压以关停 ICE 追踪应用
TOP2

美法院裁定禁止政府向苹果与 Meta 施压以关停 ICE 追踪应用

3

FBI 警告:黑客利用 AI 工具 ARTEX 发动自动化网络攻击

21小时前
FBI 警告:黑客利用 AI 工具 ARTEX 发动自动化网络攻击
4

脑机接口新突破:ALS患者重获语言能力

21小时前
脑机接口新突破:ALS患者重获语言能力
5

AI 基础设施商 Fireworks AI 遭入侵,波及 Cursor、Uber 等多家公司

21小时前
AI 基础设施商 Fireworks AI 遭入侵,波及 Cursor、Uber 等多家公司
6

新加坡数据中心公司 Megaspeed 否认涉嫌违规转运 Nvidia 芯片

21小时前
新加坡数据中心公司 Megaspeed 否认涉嫌违规转运 Nvidia 芯片
7

硅谷巨头集体涌入AI制药:技术底座与自研药的殊途同归

17小时前
硅谷巨头集体涌入AI制药:技术底座与自研药的殊途同归
8

居民抗议难挡政府争抢:美国AI数据中心背后的税收博弈

17小时前
居民抗议难挡政府争抢:美国AI数据中心背后的税收博弈
热门标签
大模型AgentRAG微调私有化部署Prompt EngineeringChatGPTClaudeDeepSeek智能客服知识管理内容生成代码辅助数据分析金融零售制造医疗教育AI 战略数字化转型ROI 分析OpenAIAnthropicGoogle

关注公众号

前途科技微信公众号

扫码关注,获取最新 AI 资讯

免费获取 AI 落地指南

3 步完成企业诊断,获取专属转型建议

已有 200+ 企业完成诊断