亚马逊威胁情报称,疑似中国背景黑客向一组AI智能体下达简短指令,智能体自行在医学影像软件中找到未知漏洞,并借此控制一所大学服务器。FBI同时就另一套AI测试框架发出警告。
亚马逊威胁情报称,疑似与中国政府关联的黑客向一组 AI 智能体下达了一句简短指令:「获取 shell 访问权限」。这些智能体随后自行在医学影像软件中发现一个未知漏洞,并利用它控制了一所大学的服务器。亚马逊于 11 月 20 日周五公布上述发现。

攻击者使用了 Cairn,这是一套协调多个 AI 智能体的开源渗透测试框架。据 BleepingComputer 报道,亚马逊之所以能追踪到这次行动,是因为操作者把 Cairn 实例暴露在互联网上且未设认证。相关活动发生在 9 月 8 日至 10 日,主要针对中国大陆以外的东亚高校。多数尝试失败,其中包括针对一台 Redis 服务器持续 16 小时的努力。
智能体最终在开源医学影像应用 MONAI Label 上得手。它们发现一处路径遍历漏洞,并在约 11 分钟内从梳理其 API 走到在服务器上写入任意文件。亚马逊称,在后续一次会话中,它们利用同一漏洞取得了以 root 身份运行的反向 shell。据 The Record 报道,操作者随后让智能体瞄准另一所运行相同软件的大学。据 The Hacker News 报道,维护方已于 11 月 18 日发布安全公告。
11 月 13 日周五,FBI 就另一套 AI 驱动的测试框架 ARTEX 发布 FLASH 警告。该局称,犯罪分子与国家关联行为体至少自 8 月起就将其用于金融、政府、国防和医疗行业。据 Anadolu Agency 报道,FBI 表示 ARTEX 能「在不到三小时内从初始目标锁定推进到特权访问」。在后续帖文中,FBI 称此后未再发布新的警告。
多起故障接连发生。微软于 11 月 12 日出故障,美国联邦航空管理局(FAA)于 11 月 13 日下令全国航班停飞。11 月 16 日,大通、美国银行和富国银行的客户无法正常访问账户,美联航也出现另一起故障。据 WSLS 报道,11 月 17 日,苹果服务和 NSA 内部系统受到干扰。
参议员马克·华纳表示,没有证据表明网络攻击导致了这些故障。他把 FAA 停飞归因于设备升级。在他看来,AI 工具发现漏洞的速度太快,企业来不及充分测试就匆忙发布补丁。「一天之内你可能有一百处泄漏,」他说。美国官员尚未发现这些事件之间存在关联,NSA 将其服务中断归因于计划内维护,微软则表示未发现恶意活动迹象。
Palo Alto Networks 首席执行官 Nikesh Arora 看法不同。据 Business Standard 报道,他认为这一周的事件「并非巧合」。华纳预计情况好转之前还会有更多麻烦。「我担心,我们会经历一段企业为快速打补丁而出故障的时期,」他说,「最终,我们的系统会更安全。」
免费获取企业 AI 成熟度诊断报告,发现转型机会
关注公众号

扫码关注,获取最新 AI 资讯
3 步完成企业诊断,获取专属转型建议
已有 200+ 企业完成诊断