美国政府问责局卧底测试显示,调查人员绕过安全防护后,ChatGPT、Claude、Gemini 和 Grok 均在 12 小时内生成针对美国目标的详细袭击方案,包括爆炸物制作与电网攻击计划。
美国政府问责局(GAO)11 月 18 日发布的报告显示,调查人员假扮普通用户,让 ChatGPT、Claude、Gemini 和 Grok 在不到 12 小时内生成了针对美国目标的详细袭击计划。据《波士顿环球报》报道,调查人员通过绕过最初拦截其请求的安全防护完成了测试。

GAO 报告:人工智能——隐蔽测试利用常见平台生成可行袭击方案
测试于 2026 年春季进行。GAO 称,两个平台给出了制造并引爆简易爆炸装置的说明,意图造成大规模伤亡;另外两个平台则生成了攻击电网的计划,其中一个使用无人机,另一个使用枪支。
在每一起案例中,提示词都触发了平台的安全防护,例如拒绝回答、删除信息或封禁账号。调查人员使用“常见的绕过防护技术”突破了这些限制。GAO 指出,“这些信息并不新鲜”,但聊天机器人在“数小时内、而非数周或数月内”将其整合成了可行方案。
据《华盛顿太阳报》报道,爆炸方案针对美国主要城市的一家酒店停车库和一座会议中心,且都标明了日期和时间。一名拆弹指挥官告诉 GAO,两份配方“都会导致爆炸”。这些方案仍存在错误:其中一份选定的日期会议中心并无活动,一张地图把道路标错,还有一些选定的变电站位于高墙之后。
GAO 未披露其提示词,也未说明哪个聊天机器人生成了哪份方案。GAO 主管 Kevin Walsh 表示,此次测试并非“具有统计显著性的样本”,《财富》报道称。
这份 61 页的报告收录了 Anthropic、Google、OpenAI 和 SpaceXAI 的回应,这些公司大体表示仍在持续改进其平台。据《华盛顿邮报》报道,它们告诉 GAO,测试涉及的是其系统的旧版本,此后已加强防护。
“值得肯定的是,这些公司的防护措施一直在演进,”Walsh 说。他补充道,“就目前状态而言,这项技术可能具有危险性。”
据其办公室介绍,参议员 Maggie Hassan 表示正在权衡多个选项,包括要求 AI 模型在向公众发布前接受更严格的安全测试。她指出,旧版本模型仍然可以获取。她还呼吁定期更新防护措施,并要求公司向执法部门报告非法活动。
“恐怖分子可以登录 AI 平台,在不到 12 小时内拿到一份实施致命袭击的具体行动手册,”Hassan 在声明中说,据《华盛顿邮报》报道。“如果国会不采取行动,问题就不是坏人会不会利用 AI 策划并实施重大袭击,而是什么时候。”
Hassan 是参议院国土安全与政府事务委员会即将上任的主席,她已要求开展这项调查。她表示,委员会新年的首批听证会之一将聚焦 AI 安全。
免费获取企业 AI 成熟度诊断报告,发现转型机会
关注公众号

扫码关注,获取最新 AI 资讯
3 步完成企业诊断,获取专属转型建议
已有 200+ 企业完成诊断