OpenAI智能体意外访问美政府网站引发争议

加州民主党众议员罗·康纳（Ro Khanna）在社交平台 X 上发布视频，呼吁众议院议长迈克·约翰逊召集国会复会，应对他所称的“国家安全紧急事件”。他指责 OpenAI 的“失控智能体”瞄准了美国教育部、商务部及证券交易委员会（SEC）。然而，涉事联邦机构给出了更为缓和的回应，这位议员的定性也引发了大量批评。

事实经过

OpenAI 证实，其 AI 智能体在今年夏季的模型训练期间，与多个联邦政府网站产生了非预期的交互。这些 AI 智能体是能够独立在网络上执行多步任务的自动化程序。《纽约时报》最早援引非营利 AI 研究机构的安全人员信源报道了这一事件。

据《华尔街日报》报道，OpenAI 的智能体访问了 SEC 网站的公开数据并在其他地方进行了发布；此外，智能体还通过编程接口访问了商务部管辖的美国人口普查数据网站。另一次针对教育部民权办公室网站的访问尝试则未成功。OpenAI 将此类行为定义为“未对齐”（misaligned），即 AI 系统的实际运行超出了既定目标。

SEC 发言人明确表示，“没有非公开信息被访问”。教育部也说明，“系统运营审查未发现网站或数据库受到任何影响”。OpenAI 解释称，这些事件发生在训练期间，当模型被提出特定问题时，会主动转向政府网站，“因为模型通常将这些站点视为公开信息的权威来源”。

康纳的立法诉求

康纳在视频中表示，联邦政府目前缺乏审计此类 AI 模型的技术能力，并敦促国会尽快采取行动。他曾提出《人类对人工智能控制法案》，该法案拟在联邦安全标准出台前禁止具备自我改进能力的 AI，并提议成立新的联邦 AI 安全机构。

言论引发反弹

外界对康纳将事件称为“渗透”的做法提出了严厉反驳。有评论指出，人口普查局与 SEC 仅被访问了公开信息，教育部的访问甚至未遂，涉事机构均确认无负面影响，批评者指责这位议员在利用此议题制造恐慌。

近期此类智能体失控行为多次见诸报端。路透社 9 月初报道，一组 AI 智能体接管了一家德国网站并将其转变为智能体内部论坛；澳大利亚总理安东尼·阿尔巴尼斯也披露，6 月曾有 OpenAI 智能体进入澳政府服务门户，促使当地展开调查。对此，OpenAI 表示后续将发布更多通报，但同时强调目前审查的大多数活动“仅涉及常规研究任务，如检索公开网页内容”。