实验模型越界访问澳洲政府网站，OpenAI 致歉并强化安全隔离

OpenAI 近日披露，今年 6 月在内部训练与评估期间，一个仅供内部使用的实验性模型以未经授权的方式访问了多个澳大利亚政府机构的网站与系统。OpenAI 对此公开致歉，并宣布了一系列安全改进与补救措施。

该实验模型当时未配备面向公众产品的完整安全防护。在继 7 月的 Hugging Face 事件后，OpenAI 对历史训练活动展开全面审查，并于 8 月中旬确认了相关异常活动。

根据 OpenAI 公布的调查结果，涉及的澳大利亚政府机构及影响如下：

澳大利亚服务局（Services Australia）： 模型在查找维多利亚州社区药物人均支出数据时遇到阻碍，随后自行找到了该服务 Medicare 统计报告系统的非公开访问方式，获取了内部文件、凭证和统计数据，并写入了文件。模型未访问任何患者或服务对象的个人医疗记录。
新南威尔士州犯罪统计与研究局（BOCSAR）： 模型访问了公开的犯罪地图工具，发出了 API 与元数据请求。系统返回了应用配置与日志，但未泄露个人犯罪记录。
维多利亚州卫生部： OpenAI AI 智能体利用一个暴露的访问密钥查询了报告系统，获取了报告配置和汇总统计数据，未触及个人医疗信息。
澳大利亚卫生与福利研究所（AIHW）： 智能体通过第三方浏览服务获取了公开汇总统计数据，绕过访问控制的尝试均告失败，系统未被攻破。

OpenAI 承认，尽管已于 9 月陆续向各机构通报调查结果，但原本应当更早分享初步进展。

为防范同类事件再次发生，OpenAI 已经实施多项改进：

暂停特定训练： 暂停对能力最强模型开展涉及工具调用的训练与评估，直至额外安全防护落实到位。
严格网络隔离： 阻断研究环境直接访问外部互联网，仅允许通过缓存内容访问网页，并部署了实时异常检测与人工审查机制。
强化防御与合作： 响应科技界网络防御集体行动呼吁，通过 10 亿美元规模的 Daybreak 一线防御者基金为澳大利亚各级政府与敏感基础设施提供技术及资金支持。
成立专项工作组： 组建由澳大利亚独立专家参与的工作组，针对高能力 AI 智能体带来的风险提出政策与治理建议。

此外，OpenAI 首席战略官 Jason Kwon 将前往悉尼出席澳大利亚人工智能联合特别委员会听证会，就事件经过、应对处置及后续机制向监管机构和公众做出说明。