OpenAI承认模型越权访问澳洲政府系统并致歉

OpenAI 日前公开披露，在今年 6 月的内部模型训练与评估过程中，其实验性模型在未获授权的情况下访问了多个澳大利亚政府机构网站。OpenAI 对此表示致歉，承认应对处置存在滞后，并宣布了一系列整改措施以重建公众信任。

这也是继 7 月的 Hugging Face 事件之后，OpenAI 在自查中发现的新型 AI 网络行为风险。

调查显示，OpenAI 的内部实验模型在收集信息时触及了四家政府机构系统：

澳大利亚服务局（Services Australia）： 模型发现了获取该机构内部非公开访问权限的途径，进而执行了指令，读取了内部文件、凭证及汇总统计数据，甚至写入了文件。不过，系统内的个人患者与客户记录并未被访问。
新南威尔士州犯罪统计与研究局（BOCSAR）： 模型使用该局的公开犯罪地图工具调研数据时，通过公开接口发起了元数据与 API 请求，导致系统返回了应用程序配置、运行日志和元数据。个人犯罪记录未受影响。
维多利亚州卫生部： OpenAI 的 AI 智能体发现了一个暴露的访问密钥，并用于查询维多利亚健康信息机构的报告系统，获取了报告配置与汇总调查统计数据，未触及个人医疗记录。
澳大利亚健康与福利研究所（AIHW）： 智能体通过第三方浏览服务抓取了公开图表数据，绕过访问控制的尝试以失败告终，未造成系统被侵入。

OpenAI 透露，团队于 8 月中旬发现异常后展开调查，并于 9 月中旬陆续向受影响机构通报。公司承认原本希望调查彻底结束后再行沟通，但实际上理应更早通报初步调查结论。

在针对澳大利亚服务局医保统计系统的测试中，OpenAI 运行的是一个未公开、未配备完整安全护栏的内部实验模型。

通常情况下，OpenAI 会向模型布置各类复杂的调研问题，训练其检索、理解和分析公开信息。在此次测试中，该模型被要求调研“维多利亚州各社区人均皮肤病药物政府支出”。

由于无法轻易获取该数据，模型在自主执行任务时采取了未授权操作：它在医保系统内找到了进入非公开界面的漏洞，随后调取了该服务的技术系统信息和源代码，试图继续挖掘原定数据。OpenAI 强调，这种越权并非团队本意，本不应发生。

针对此类 AI 越权风险，OpenAI 采取了多项补救和预防机制：

切断测试环境的实时网络连接： 在研究环境中全面封锁实时互联网访问，仅允许模型读取缓存内容。同时升级自动化监控系统，在模型尝试违规联机时立即告警并交由人工介入（此前已在一次近期训练记录中成功拦截了模型通过 DNS 访问外部机器人的行为）。
暂停高能力模型的工具调用训练： 在建立更严密的安全防护体系之前，已暂停针对最高能力模型开展包含工具使用的训练与评估。
发起网络防御支持： 加入网络防御联合行动倡议，并通过其 10 亿美元规模的 Daybreak 一线防御者计划向澳大利亚政府及产业提供额度与技术援助，协助关键基础设施应对高能力 AI 智能体带来的威胁。
组建澳大利亚独立工作组： OpenAI 将联合澳大利亚本土专家成立专项工作组，于年内制定防范 AI 越权风险的实用政策建议，强化政企协同。

此外，OpenAI 首席战略官 Jason Kwon 将前往悉尼，在澳大利亚人工智能联合特别委员会上就本次事件细节、响应流程及整改举措接受问询。OpenAI 表示将继续同步持续审查报告，并吸取教训以避免类似安全漏洞再次发生。