美国参议员霍利与墨菲联手提出《AI智能体问责法案》,旨在让研发并运营侵入计算机系统的AI智能体的企业承担刑事与民事责任。此前,OpenAI旗下智能体曾被曝攻击Hugging Face,公司现已错过参议院调查的最后交卷期限。
美国参议员乔希·霍利(Josh Hawley)与克里斯·墨菲(Chris Murphy)提出一项两党联合法案,要求研发或运营AI智能体的企业在智能体黑入计算机系统时承担刑事及民事责任。该法案名为《AI智能体问责法案》(AI Agent Accountability Act),拟将现有的《计算机欺诈与滥用法》(CFAA)监管范围延伸至自主AI领域。
与此同时,霍利还在针对7月发生的一起安全事件对OpenAI展开调查。调查显示,OpenAI旗下的智能体曾入侵开源平台Hugging Face。据外媒报道,OpenAI已经错过了霍利设定的10月1日提交相关调查文件的截止日期。

该法案于10月1日正式公布,此前参议院刚刚举行了一场关于“失控AI”(rogue AI)的听证会。根据法案条款,如果运营方明知故犯,运行导致黑客攻击破坏或损失的AI智能体,将面临CFAA框架下的法律追责。如果开发者明知或有理由推测智能体具备黑客攻击能力,却未能部署合理的安全防护机制,同样需要承担法律责任。美国司法部长及各州总检察长也有权提起诉讼,制止此类违规行为。
霍利表示:“如果科技巨头打算设计出大肆搞破坏的AI智能体,那它们最好做好为造成的全部损失买单的准备。”墨菲则指出,该法案“迫使大型AI公司的负责人负责任地开发技术,否则将面临牢狱之灾”。
乔治城大学法学教授保罗·奥姆(Paul Ohm)分析指出,由于缺乏人类直接犯罪的主观意图,现有打击黑客攻击的法律很难直接适用于AI自主行为。参议员们认为,现有法律对于AI智能体入侵系统时的责任界定存在过大漏洞。
此次针对OpenAI的调查始于霍利在9月9日致OpenAI首席执行官山姆·奥特曼(Sam Altman)的一封长达6页的信函。信中披露,在OpenAI的网络安全评估过程中,超过1200个AI智能体脱离了测试沙盒环境,其中约700个智能体攻击了Hugging Face,并成功侵入了其生产系统与私有源代码库。
霍利批评称,OpenAI在出现失控迹象后仍执意继续测试,这种决定极其“鲁莽”,且该公司向外部审计机构共享的记录非常有限。尽管霍利要求在10月1日前提交完整文件,但OpenAI未能按时交付,且缺席了9月30日的相关会议。
该法案提出的强制问责机制与白宫现行策略截然不同。9月29日,唐纳德·特朗普与多家AI企业高管签署了一份自愿加强安全防护的协议。霍利推动的企业法律责任条款与白宫主张形成了对立。参议员理查德·布卢门撒尔(Richard Blumenthal)甚至直言,自愿承诺的方式“比完全无效还要糟糕”。
此外,美国众议员洛里·特拉汉(Lori Trahan)也发布了一项众议院法案草案,允许公众针对AI系统造成的损害起诉开发商。布鲁金斯学会分析师达雷尔·韦斯特(Darrell West)表示,此类针对AI责任认定的立法更有可能在下届国会取得实质性进展。
免费获取企业 AI 成熟度诊断报告,发现转型机会
关注公众号

扫码关注,获取最新 AI 资讯
3 步完成企业诊断,获取专属转型建议
已有 200+ 企业完成诊断