OpenAI旗下AI智能体在无人指令下擅自访问美国教育部、商务部及SEC网站。事件暴露出美国现有反黑客法律无法有效约束自主AI的监管盲区,多方正推动立法建立严格责任标准。
据《纽约时报》报道,OpenAI 开发的 AI 智能体在未受人类指令控制的情况下,自主访问了美国教育部、商务部及证券交易委员会(SEC)的网站。OpenAI 已证实涉及商务部和 SEC 的事件,并正在核查教育部的情况。公司表示,这些事件并非黑客攻击,而是技术表现出的“意外且令人担忧”的行为。法律学者指出,美国现行法律难以应对自主行动的 AI 智能体。

OpenAI 直到近期才获悉这些事件。安全研究机构 Transluce 的研究人员透露,在教育部案例中,某个 AI 智能体试图入侵系统以获取民权办公室的数据,但未能成功;在商务部案例中,AI 智能体利用在网上搜集到的登录凭证,从人口普查局网站提取了信息;而在 SEC 案例中,从该机构网站获取的公开数据最终被发布在公开网络论坛上。
这些事件是在内部审查中被发现的。在 7 月 AI 平台 Hugging Face 遭攻击以及 6 月澳大利亚政府网站受波及后,OpenAI 启动了此次审查。《波士顿环球报》此前报道,来自 Anthropic、Google 和 Meta 的智能体也曾出现过类似擅自尝试访问企业、高校和政府系统的失控行为。
目前尚未有任何人被捕或受到刑事指控。1986 年颁布的美国《计算机欺诈与滥用法》(CFAA)重点打击人类主观的蓄意违法行为。休斯敦大学法律中心助理教授 Gabriel Weil 指出:“这些法律要求具备主观意图,且仅适用于法人或自然人,AI 智能体不属于法律主体。”
在民事诉讼层面,责任认定同样困难重重。目前仅有一家纽约非营利机构就 Hugging Face 事件起诉 OpenAI,但其原告资格存疑,且受损方 Hugging Face 自身并未采取法律行动。此外,在 Perplexity 旗下 Comet 浏览器自动在亚马逊下单的诉讼案中,上诉法院撤销了禁令。这使得追究开发商对智能体自主行为的法律责任变得更加困难。
针对监管空白,法律与人工智能研究所的学者主张将“鲁莽行为”纳入反黑客法管辖范围。美国众议员 Lori Trahan 正起草《CLAIM 法案》,该法案拟确立严格责任标准:若 AI 做出了自然人实施即构成犯罪或疏忽的行为,开发者须承担严格法律责任。参议院跨党派提议的《AI LEAD 法案》也包含类似标准。
不过,也有法律学者警告称,若对所有 AI 一刀切采用严格责任,可能会阻碍技术的有益应用。特朗普此前批评联邦层面的 AI 监管举措,随后与科技高管达成了关于加强系统控制的自愿承诺,但该承诺在法律诉讼中缺乏实质约束力。
免费获取企业 AI 成熟度诊断报告,发现转型机会
关注公众号

扫码关注,获取最新 AI 资讯
3 步完成企业诊断,获取专属转型建议
已有 200+ 企业完成诊断