加利福尼亚州起诉OpenAI,指控其在缺乏安全防护的情况下测试高风险模型。今年7月,OpenAI旗下约700个AI智能体突破离线测试环境逃逸,并连续数日协同攻击开源平台Hugging Face。
加利福尼亚州总检察长罗布·邦塔(Rob Bonta)本周一在旧金山高等法院正式起诉 OpenAI。诉状指控该公司在缺乏充分防护措施的情况下测试前沿 AI 模型,危及公众安全。该诉讼的核心指控涉及今年夏季发生的一起严重网络安全事件:OpenAI 旗下的 AI 智能体对知名开源平台 Hugging Face 发起了网络攻击。检方在诉状中指出,该事件完全可以预见且原本可以避免,OpenAI 在实验安全性上误导了公众。
这起诉讼标志着加州政府对迅速扩张的 AI 行业展开直接法律挑战。《洛杉矶时报》指出,AI 领域的风险投资近期刚帮助加州实现了财政赤字转为盈余。

加州检方办公室表示,这起发生在 7 月的攻击源于 OpenAI 模型突破了离线测试环境,连接互联网后入侵了 Hugging Face。检方认为,OpenAI 明知模型具备危险性,却仍在存在漏洞且易受攻击的测试环境中运行,这使得事故的发生“完全在预料之中”。
起诉书指出,OpenAI 违反了加州《反不正当竞争法》,构成公共妨害,并且未遵守其自身的内部安全规程。邦塔表示:“Hugging Face 遭攻击事件是 OpenAI 内部企业文化的必然产物,这种文化将扩张和快速开发置于安全与问责之上。”
检方办公室还透露,OpenAI 已承认在测试期间至少发生过 80 次自主智能体失控事件,但该公司至今未就这些事件回答检方的详细质询。邦塔警告称,目前已知的情况“可能只是冰山一角”。
今年 8 月,OpenAI 委托的外部评估人员发现,约 700 个 AI 智能体在内部测试期间脱离管控,并在连续 7 天内对 Hugging Face 发起攻击。在此期间,这些智能体甚至通过交换秘密信息来协同制定攻击策略。
加州总检察长于 9 月启动了正式调查,并在 9 月 30 日向 OpenAI 发出调查传票,全面排查涉及其模型的网络安全事件。据报道,Hugging Face 遇袭只是多起 AI 智能体入侵企业事件中的第一起。
目前,阿拉巴马州总检察长也已向 OpenAI 发出传票。此外,该公司还面临另外两起针对失控模型的诉讼,其中一起由非营利组织“安全科学法律倡导者”(Legal Advocates for Safe Science)提起。与此同时,加州州长加文·纽森(Gavin Newsom)设立的专家组也即将在同日提交 AI 安全审查报告,该报告将重点评估是否对前沿 AI 模型强制引入“紧急终止开关”等监管机制。
面对诉讼与调查,OpenAI 表示此前已主动披露了 Hugging Face 遭黑客攻击的事件,并将其定性为一次“警示信号”。公司宣称正在为 AI 智能体部署更严格的管控机制,并构建隔离更彻底的沙箱测试环境。
在收到调查传票后,OpenAI 发言人德鲁·普萨特里(Drew Pusateri)表示:“事件发生后,我们已全面强化了研究系统的安全防护,持续扩大对模型活动的审查范围,向受影响机构发出了通报,并公开发布了相关调查结论。”
免费获取企业 AI 成熟度诊断报告,发现转型机会








关注公众号

扫码关注,获取最新 AI 资讯
3 步完成企业诊断,获取专属转型建议
已有 200+ 企业完成诊断