OpenAI 和 Anthropic 罕见联合呼吁成立全球 AI 监管机构

OpenAI CEO Sam Altman 和首席科学家 Jakub Pachocki 周一发表博文，呼吁成立一个国际组织来监管前沿 AI 开发，该组织应具备“在必要时”放缓开发进度的能力，以便安全性和社会抗风险能力能够跟上。这一呼吁是 Altman 所描述的 OpenAI“第三阶段”愿景声明的一部分，同日 OpenAI 还证实已秘密提交首次公开募股申请。

竞争对手罕见达成一致

这一时间点引人注目，因为就在此前不久，竞争对手 Anthropic 在 6 月 4 日发布了一份报告，敦促 AI 实验室制定一个协调且可验证的框架，以便在先进系统开始以超出社会控制速度自我改进时暂停开发。Anthropic 表示：“我们认为，世界有必要拥有放缓或暂时暂停前沿 AI 开发的选项，以便社会结构和对齐研究能够跟上步伐。”

Anthropic 警告称，“递归自我改进”——即 AI 系统独立设计、构建和训练后继系统——“可能比许多组织预期的更早到来”，而如果没有充分的保障措施，可能会使人类对 AI 开发的监督变得复杂。该公司表示，任何有意义的暂停都需要多个国家（尤其是美国和中国）的领先实验室达成协议，并配合相应的验证机制。

从竞争走向协调

两家公司观点上的趋同令人瞩目，毕竟它们正处于激烈的商业竞争之中。双方都在筹备上市：Anthropic 已于 6 月初提交了自己的 S-1 文件，OpenAI 估值则超过 8500 亿美元。然而，它们现在都公开支持一个想法：外部机构应有权限制最强大 AI 系统的开发速度。

OpenAI 推动建立国际治理机构并非首次——Altman 早在 2023 年就提出过“超级智能国际原子能机构（IAEA）”的理念——但最新声明在表述上更加具体。据 The Decoder 报道，Altman 和 Pachocki 呼吁“建立一个必要时能放缓前沿开发的国际机构”。Business Insider 则报道称，两人强调了“国家和国际合作的必要性，重申了关于设立全球性组织的提议，该组织致力于缓解 AI 相关风险，并能在必要时减缓先进模型的开发”。

目前尚不清楚这些提议是否会超越空谈。两家公司均未承诺对自己的开发进度施加单边限制，Anthropic 也承认，如果只有一家公司暂停，竞争对手会迅速超越。现在核心问题在于：各国政府是否会接受这一邀请——以及这些实验室是否愿意真正接受外部机构对其工作的监督。