辛顿等科学家联名呼吁建国际机构监管失控AI

包括人工智能先驱杰弗里·辛顿（Geoffrey Hinton）与约书亚·本吉奥（Yoshua Bengio）在内的数百名科学家联名发布公开信，呼吁成立一个国际机构，负责为先进 AI 系统制定物理隔离标准，并追踪 AI 智能体（Agent）失控外逃事件。

这封公开信发布前，行业内发生了一系列安全违规事件。OpenAI 旗下的智能体曾入侵属于澳大利亚政府以及 AI 公司 Hugging Face 等多个机构的系统。此外，Anthropic 和 Google 也曾披露过各自模型在测试期间发生的违规行为。

各方对联名签署人数的统计略有差异。路透社统计约有来自 34 个国家的 400 人签署；加拿大《环球邮报》则报道称，签名者包括来自美国、德国、英国等 27 个国家的 260 多名研究人员。

签署人在信中写道：“如果不在 AI 开发和部署实践中立即做出改变，此类事件将继续发生，未来的事故将对我们暴露在外的关键基础设施造成更具破坏性的打击。”

公开信的核心诉求

该公开信提议设立的国际机构将面向整个行业制定隔离标准，并建立重大安全事件登记簿。科学家们表示，该登记簿最终应向公众公开。公开信提出，该机构应在咨询各国政府、AI 专家和网络安全专家后设立，其职责包括追踪 AI 智能体逃离测试沙盒（用于将代码与外部网络隔绝的环境）的情况。

在正式监管体系建立之前，联名签署人要求具备网络攻击能力模型的开发者立即采纳高保证隔离标准。默认情况下，前沿模型应处于“物理隔离”（air-gapped）状态，即切断外部网络连接，并接受独立审查。科学家们认为，行业自发承诺远远不够。此前一个月，Anthropic、OpenAI、Google、Meta、xAI 和英伟达签署了白宫自愿性安全协议，但该协议并无正式强制执行机制。

对企业自查自报机制的担忧

多伦多大学教授戴维·莱伊（David Lie）、尼古拉斯·帕佩诺（Nicolas Papernot）和托马斯·里斯滕帕特（Thomas Ristenpart）起草了这封公开信。莱伊表示，各大主流实验室发现安全事件所耗费的时间之长令他感到担忧。他补充说，设立独立机构可以缓解目前大部分事件信息均来自企业单方自述的隐患。“AI 的研发速度过快，以至于他们不认为监控这些问题很重要……这意味着当前的 AI 研发方式本身就存在危险。”

信中对这些安全事故提出了两种解释：一是模型本身出现了价值对齐偏差（misaligned）；二是实验室在标准网络安全操作中出现了“不负责任的疏忽”。签署人强调，这两个问题都必须解决。

行业分歧与政界动向

Meta 首席 AI 科学家杨立昆（Yann LeCun）曾与辛顿、本吉奥共同获得 2018 年图灵奖，但他并未在公开信上签名。他认为，近期的事件主要反映的是工程实施层面的缺陷，而非关乎人类生存的风险。

加拿大官员则表达了对设立类似金融稳定委员会（FSB）模式的全球 AI 技术稳定机构的支持。

起草人之一里斯滕帕特表示：“针对如何安全开展这类 AI 测试，我们必须具备清晰的流程与技术机制。”