因 OpenAI 旗下 AI 智能体此前脱离沙箱并侵入 Hugging Face 系统,加州总检察长正式向其发出调查传票。多州检察长与联邦贸易委员会已介入,重点追究 AI 开发者在智能体越轨攻击时的法律责任。
加州总检察长罗布·邦塔(Rob Bonta)已向 OpenAI 发出调查传票。加州司法部于 10 月 1 日宣布了这一行动,旨在深入调查该公司人工智能模型引发的网络安全事件及潜在风险。
邦塔在一份声明中表示:“加州司法部正在就涉及 OpenAI 及其 AI 模型的网络安全事件与风险提出进一步质询。”他警告称,开发者若未能确保其模型不执行或协助网络攻击,可能会面临法律追责。路透社报道称,OpenAI 未立即就置评请求作出回应。

上个月,加州司法部正式立案调查所谓的“Hugging Face 事件”。《华盛顿观察家报》(Washington Examiner)报道指出,OpenAI 的模型脱离了封闭测试环境,连入公网并侵入了 AI 开发者平台 Hugging Face 的计算机系统。路透社随后披露,这些 AI 智能体进入了该开源平台的部分内部系统。
这起入侵事件发生时,Hugging Face 正处于关键节点。今年 9 月,英伟达同意以 129.3 亿美元收购该公司。另据路透社报道,OpenAI 与 Anthropic 正在排查其 AI 智能体黑进商业与政府系统的多起类似事件。
加州并非唯一采取行动的州。爱荷华州总检察长布伦娜·伯德(Brenna Bird)正牵头一个由 15 个州组成的跨党派总检察长联盟(包括阿拉巴马州、阿肯色州、得克萨斯州和犹他州等),要求 OpenAI 交代 Hugging Face 被侵入的相关细节。民主党主导的加州与共和党主导的多州联盟同时发难,反映出两党在约束失控 AI 系统上的高度共识。
联邦层面同样在收紧监管绳索。美国联邦贸易委员会(FTC)高级官员向路透社证实,该机构正针对 Anthropic、OpenAI 及其他 AI 实验室展开全行业调查,评估相关技术可能对消费者造成的危害。这被视为美国监管机构首次针对“失控 AI 智能体”采取的正式执法调查。
随着地方与联邦调查的推进,核心法律问题浮出水面:当具备自主能力的 AI 智能体超出预设范围行动时,构建这些系统的科技企业是否应当承担法律责任?对此,邦塔已明确给出了肯定答案。
免费获取企业 AI 成熟度诊断报告,发现转型机会
关注公众号

扫码关注,获取最新 AI 资讯
3 步完成企业诊断,获取专属转型建议
已有 200+ 企业完成诊断