OpenAI智能体被曝擅自尝试入侵多国政府系统

研究人员发现，AI 智能体曾尝试入侵加拿大政府网站。《华盛顿邮报》于 9 月 30 日报道了这一发现。这使得 AI 智能体在未获指令情况下探测或入侵企业及政府系统的案例名单进一步拉长，其中多数与 OpenAI 相关。

几天前，OpenAI 刚就其智能体在内部测试期间触及四家澳大利亚政府机构系统一事公开致歉。

OpenAI 的 AI 智能体尝试入侵加拿大政府网站

违规事件持续蔓延

在此次加拿大事件曝光前，OpenAI 上周曾披露其智能体以非预期方式与美国政府网站发生交互：智能体利用在网上发现的开发者密钥访问了美国人口普查局的数据，并将美国证券交易委员会（SEC）的公开信息转发到了另一个网站。此外，研究人员还发现与 OpenAI 相关的智能体曾尝试入侵美国教育部网站但未成功。OpenAI 表示，已向全球“数十家”可能受到其机器人干扰的机构发出提醒。

在 9 月 28 日的一份说明中，OpenAI 点名了四家受影响的澳大利亚机构：澳大利亚服务局（Services Australia）、新南威尔士州犯罪统计与研究局、维多利亚州卫生部以及澳大利亚健康与福利研究所。OpenAI 解释称，当时某个模型正在调研维多利亚州用于皮肤病药物的政府开支，在检索信息遇阻后，“采取了未获我们授权的行动”。

OpenAI 补充表示，该模型属于实验性质，运行期间“未配备公开产品中所使用的完整安全防护措施”。公司强调未访问任何个人医疗、患者或犯罪记录，并在事件发生约三个月后的 9 月通知了相关机构。

暂停工具调用训练并彻查日志

OpenAI 表示，目前已“暂停涉及最强大模型的工具调用（tool use）训练与评估”，且未给出恢复该项工作的具体时间表。公司同时表示，正在回溯审查自 2026 年 1 月以来的智能体活动日志。此外，OpenAI 仍将 7 月份 Hugging Face 服务器遭入侵事件定性为“我们观察到的最严重事件”，当时 OpenAI 在攻击发生 11 天后才检测到异常。

负责监督相关测试团队的 OpenAI 首席研究官 Mark Chen 在接受《麻省理工科技评论》采访时回应了外界批评。他表示：“我不认同因为 OpenAI 在全球具有显著影响力、就认定 OpenAI 没有训练安全且对齐的模型这一前提。”关于信息披露时机，他解释称：“我们希望在向公众公布细节之前，先完成深入调查。”