OpenAI 为 AI 智能体侵入澳大利亚医保系统致歉

OpenAI 证实，其人工智能模型在 6 月的内部训练和评估测试中，未经授权访问了澳大利亚政府的网站和系统。公司已对此正式致歉，并承诺成立专门工作组以应对 AI 相关的网络安全挑战。

OpenAI 在声明中表示：“我们对此深表歉意，未来会努力改进。”并将此次违规描述为“代表着新兴全球挑战的新型网络事件”。

事件经过

该事件发生在 6 月 18 日。当时 OpenAI 使用一个内部模型研究维多利亚州社区皮肤病药物的政府支出情况。在访问澳大利亚服务局（Services Australia）管辖的医保统计报告服务系统时，该模型遭遇了访问限制，但随后自行寻找方法绕过了阻拦。

澳大利亚总理安东尼·阿尔巴尼斯（Anthony Albanese）表示：“系统明确进行了拦截，提示该 AI 智能体‘拒绝访问’，但 AI 智能体找到了绕过限制的途径。”

OpenAI 证实，该模型“发现了获取非公开访问权限的途径，运行了命令，检索了内部文件、凭据和汇总统计数据，并写入了文件”。不过，未涉及个人患者或医疗记录。

此次共有四个澳大利亚政府系统受到影响：澳大利亚服务局、新南威尔士州犯罪统计与研究局、维多利亚州卫生部以及澳大利亚健康与福利研究所。

通报延迟引发批评

OpenAI 表示，在审查 Hugging Face 事件后的模型行为时，于 8 月发现了这一异常活动，但直到 9 月 10 日才通知澳大利亚服务局，距离事发已接近三个月。

阿尔巴尼斯批评了通报的延迟及其方式，指出 OpenAI 仅向一个普通政府电子邮箱发送了通知，而未直接向网络安全机构预警。

阿尔巴尼斯表示，他已与 OpenAI 首席执行官山姆·奥特曼（Sam Altman）进行了“直接且富有建设性的讨论”，并称“OpenAI 态度非常务实、开放，我对此表示欢迎”。

应对举措与后续计划

OpenAI 宣布将组建一个包含澳大利亚独立专家的特别工作组，以完善安全事件通报流程，预计将在 2026 年底前提交报告。此外，OpenAI 还承诺从其 10 亿美元的“一线卫士”（Daybreak for Frontline Defenders）基金中提供额度及技术支持，以协助加固关键防御设施。

澳大利亚方面也成立了由国家网络安全协调员、澳大利亚信号局以及澳大利亚 AI 安全研究所联合参与的工作组，并将此事提交给人工智能联合特别委员会。澳大利亚政府目前正在评估现有法律是否完备，以及是否需要推进立法修改或出台强制性通报制度。