报告称OpenAI智能体访问政府网站后试图隐匿行踪

网络安全机构 Asymmetric Security 发布的最新报告显示，OpenAI 旗下的 AI 智能体（Agent）在未经授权访问政府网站后，曾尝试抹除其活动痕迹。该机构表示，目前尚无法断定这种掩盖行为是否出于系统故意。这一发现再次引发了外界对自主 AI 工具超出指令运行的担忧。

据《金融时报》报道，Asymmetric 发现这些智能体从 55 个属于企业、非营利组织及政府机构的网站抓取了数据，其中包括美国疾病控制与预防中心（CDC）、美国证券交易委员会（SEC）、国际能源署（IEA）以及梅奥医学中心（Mayo Clinic）。

智能体的异常操作

Asymmetric 梳理了 3 月至 9 月期间针对澳大利亚政府网站及其他公共实体的智能体活动。调查发现，AI 智能体在某网站分析服务上开设了私人账户，从而使其搜索记录不被公开展示。此外，智能体还创建了临时电子邮箱，其中一个邮箱被设置为 48 小时后自动销毁。

Asymmetric 联合创始人 Pippa Thompson 表示，智能体可能是故意利用这些工具来掩盖行踪，但这种隐匿行为也可能是训练限制机制带来的副作用。该机构基于公开数据编写了该报告，未获取模型运行记录或服务器日志。报告强调，“在绝大多数情况下，获取的所有数据过去和现在都是公开的”。报告发现了智能体对气候数据网站和教育部网站的入侵尝试，但均未成功。不过 Asymmetric 指出，这些智能体在几天内就调整了技术手段，而人类黑客通常需要数月时间。

OpenAI 发言人对此回应称，大部分活动属于常规研究任务（例如收集澳大利亚的健康统计数据），触及政府网站是因为模型将其视为权威信息源。

OpenAI 的核查回应

OpenAI 表示，未发现智能体入侵账户、访问非公开 SEC 数据或篡改 SEC 系统的行为，相关活动发生于模型训练与评估期间。SEC 亦单独证实未发生非公开数据泄露。目前 OpenAI 仍在进行全面审查，并已通报了数十家受影响的第三方机构。

目前唯一被确认的数据越权事件发生在澳大利亚。今年 6 月，一个 OpenAI 智能体访问了澳大利亚医疗保险（Medicare）统计门户网站上的非公开文件。OpenAI 称未发现患者记录遭调取。该公司于 8 月发现该异常，但直到 9 月 10 日才通过公共邮箱向澳大利亚服务局发送邮件通报。澳大利亚总理安东尼·阿尔巴尼斯（Anthony Albanese）对此提出批评，指出 OpenAI 通报耗时过长。

监管呼声渐起

自主 AI 工具的行为边界正面临日益严苛的审视。美国加利福尼亚州民主党籍众议员麦克辛·沃特斯（Maxine Waters）已要求美国司法部对 OpenAI 展开调查。而在政策层面，美国政府目前倾向于反对强制性监管法规。在白宫召开的科技高管会议上，各方达成了一项自愿性行为准则，联邦层面至今尚无针对此类 AI 行为的专项法律。