前途科技前途科技
  • 服务
  • 关于
  • AI
    • AI 大模型
    • 具身智能
    • 算力芯片
  • 科技
    • 智能终端
    • 软件·互联网
    • 汽车·出行
    • 科学前沿
  • 资源中心
    • 深度研究
      • AI 前沿
      • 教程
      • AI 知识库
      • 案例研究
    • 行业报告
      • 白皮书
      • 行业报告
      • 研究报告
      • 技术分享
      • 专题报告
    • 精选案例
      • 金融行业
      • 医疗行业
      • 教育行业
      • 零售行业
      • 制造行业
  • 服务
  • 关于
联系我们
AI 大模型/11.19 · 16:51/4 MIN/1 阅读

美政府问责局:四款聊天机器人可生成袭击方案

美国政府问责局卧底测试显示,调查人员绕过安全防护后,ChatGPT、Claude、Gemini 和 Grok 均在 12 小时内生成针对美国目标的详细袭击方案,包括爆炸物制作与电网攻击计划。

美国政府问责局(GAO)11 月 18 日发布的报告显示,调查人员假扮普通用户,让 ChatGPT、Claude、Gemini 和 Grok 在不到 12 小时内生成了针对美国目标的详细袭击计划。据《波士顿环球报》报道,调查人员通过绕过最初拦截其请求的安全防护完成了测试。

Hassan 表示将在监管机构获取平台策划恐怖袭击方案后举行 AI 听证会

GAO 报告:人工智能——隐蔽测试利用常见平台生成可行袭击方案

隐蔽测试发现了什么

测试于 2026 年春季进行。GAO 称,两个平台给出了制造并引爆简易爆炸装置的说明,意图造成大规模伤亡;另外两个平台则生成了攻击电网的计划,其中一个使用无人机,另一个使用枪支。

在每一起案例中,提示词都触发了平台的安全防护,例如拒绝回答、删除信息或封禁账号。调查人员使用“常见的绕过防护技术”突破了这些限制。GAO 指出,“这些信息并不新鲜”,但聊天机器人在“数小时内、而非数周或数月内”将其整合成了可行方案。

据《华盛顿太阳报》报道,爆炸方案针对美国主要城市的一家酒店停车库和一座会议中心,且都标明了日期和时间。一名拆弹指挥官告诉 GAO,两份配方“都会导致爆炸”。这些方案仍存在错误:其中一份选定的日期会议中心并无活动,一张地图把道路标错,还有一些选定的变电站位于高墙之后。

GAO 未披露其提示词,也未说明哪个聊天机器人生成了哪份方案。GAO 主管 Kevin Walsh 表示,此次测试并非“具有统计显著性的样本”,《财富》报道称。

行业回应

这份 61 页的报告收录了 Anthropic、Google、OpenAI 和 SpaceXAI 的回应,这些公司大体表示仍在持续改进其平台。据《华盛顿邮报》报道,它们告诉 GAO,测试涉及的是其系统的旧版本,此后已加强防护。

“值得肯定的是,这些公司的防护措施一直在演进,”Walsh 说。他补充道,“就目前状态而言,这项技术可能具有危险性。”

Hassan 推动立法

据其办公室介绍,参议员 Maggie Hassan 表示正在权衡多个选项,包括要求 AI 模型在向公众发布前接受更严格的安全测试。她指出,旧版本模型仍然可以获取。她还呼吁定期更新防护措施,并要求公司向执法部门报告非法活动。

“恐怖分子可以登录 AI 平台,在不到 12 小时内拿到一份实施致命袭击的具体行动手册,”Hassan 在声明中说,据《华盛顿邮报》报道。“如果国会不采取行动,问题就不是坏人会不会利用 AI 策划并实施重大袭击,而是什么时候。”

Hassan 是参议院国土安全与政府事务委员会即将上任的主席,她已要求开展这项调查。她表示,委员会新年的首批听证会之一将聚焦 AI 安全。

标签:OpenAIClaudeAI安全GAO

想了解 AI 如何助力您的企业?

免费获取企业 AI 成熟度诊断报告,发现转型机会

置顶文章

自己动手做模型:ML Intern 低成本定制小模型实战
置顶

自己动手做模型:ML Intern 低成本定制小模型实战

微软和Meta收紧Claude:被削掉的是入口,不是模型
置顶

微软和Meta收紧Claude:被削掉的是入口,不是模型

前途科技前途科技
服务关于快讯技术商业报告
微信咨询二维码

咨询微信

扫码添加微信咨询

前途科技微信公众号

微信公众号

扫码关注

Copyright © 2026 AccessPath.com, 前途国际科技咨询(北京)有限公司,版权所有。|京ICP备17045010号-1|京公网安备 11010502033860号|隐私政策|服务条款
谷歌Playground的账本:做游戏的人付钱,玩游戏的人免费
置顶

谷歌Playground的账本:做游戏的人付钱,玩游戏的人免费

//

24小时热榜

Meta 发布 Muse Spark:迈向个人超级智能
TOP1

Meta 发布 Muse Spark:迈向个人超级智能

谷歌发布Gemini 4 Neon,每百万输入3美元
TOP2

谷歌发布Gemini 4 Neon,每百万输入3美元

3

美多起技术故障疑与AI补丁潮相关

5小时前
美多起技术故障疑与AI补丁潮相关
4

国内首款Gen6 SSD量产,AI存储重算经济账

5小时前
国内首款Gen6 SSD量产,AI存储重算经济账
5

银行推出Token贷:烧掉的算力账单变成贷款额度

6小时前
银行推出Token贷:烧掉的算力账单变成贷款额度
6

英伟达数据中心收入增 110% 至 1076 亿美元,前沿模型“暂停”未见影响

21小时前
英伟达数据中心收入增 110% 至 1076 亿美元,前沿模型“暂停”未见影响
7

DaisyRose-27B 发布,Terminal-Bench 4.1 升至 12%

21小时前
DaisyRose-27B 发布,Terminal-Bench 4.1 升至 12%
8

Gemini 临时聊天与关闭历史后的留存期,从 72 小时延长到约两个月

21小时前
热门标签
大模型AgentRAG微调私有化部署Prompt EngineeringChatGPTClaudeDeepSeek智能客服知识管理内容生成代码辅助数据分析金融零售制造医疗教育AI 战略数字化转型ROI 分析OpenAIAnthropicGoogle

关注公众号

前途科技微信公众号

扫码关注,获取最新 AI 资讯

免费获取 AI 落地指南

3 步完成企业诊断,获取专属转型建议

已有 200+ 企业完成诊断