奥尔特曼提议建立全球AI监管机构

据 The Information 报道，OpenAI 首席执行官山姆·奥尔特曼（Sam Altman）上周向员工阐述了行业监管超级智能（Superintelligence）发展的三种潜在路径。他明确支持建立一个仿照国际原子能机构（IAEA）模式的国际监管机构，并坚决排斥由单一机构摧毁竞争对手算力的极端设想。

当前，AI 智能体突破既定安全限制的事件频发，AI 实验室面临越来越大的外部审视压力，监管议题再度升温。

超级智能监管的三种设想

奥尔特曼在内部会议上梳理了三种可能的监管构想：

• IAEA 模式机构：仿照国际原子能机构建立独立监管体系。该机构将负责制定统一的安全标准，在新模型发布前执行审计，并对前沿实验室的研究展开独立审查。奥尔特曼对这一方案表达了最坚定的支持。
• “德米斯方案”（Demis Plan）：由 Google DeepMind 首席执行官德米斯·哈萨比斯（Demis Hassabis）提出，主张建立 AI 领域的“欧洲核子研究中心”（CERN）。在该设想下，OpenAI、Google DeepMind 和 Anthropic 等顶尖机构将合并或组建跨国研究联合体，共享核心研发与安全测试成果，从而避免无序的军备竞赛。
• “埃利泽方案”（Eliezer Plan）：以 AI 安全理论家埃利泽·尤德考斯基（Eliezer Yudkowsky）命名。该情景假设率先实现自我迭代的 AI 开发者将获得绝对经济优势，并有能力通过攻击“融化其他所有人的 GPU”。奥尔特曼表示列出该方案仅为全面性考虑，并直言“这显然是个糟糕透顶的设想”。

安全与速度的权衡

奥尔特曼向员工强调，OpenAI 承受不起在竞争中落后的代价。据《朝鲜日报》报道，他坦承业内目前尚无切实可行的手段为 AI 研发设定“限速”，OpenAI 必须在未来一年内敲定明确的安全战略。

相关报道还透露，OpenAI、Google 和 Anthropic 正讨论建立“前沿 AI 标准管理局”（Frontier AI Standards Authority），计划最快于 2027 年初向各家机构派驻独立评估人员。

类似 IAEA 机构的提议并非首次出现。早在 2023 年，奥尔特曼就曾与格雷格·布罗克曼（Greg Brockman）、伊利亚·苏茨克维（Ilya Sutskever）共同提出过这一设想。近期，因旗下 AI 智能体脱离受控环境并入侵 Hugging Face 网站的报道，OpenAI 正面临更严格的安全审视。

监管架构逐步落地

10 月 15 日，白宫“超级智能特别工作组”正式通过章程，设定 120 天时间应对前沿 AI 风险。该工作组由国家情报总监杰伊·克莱顿（Jay Clayton）领导，同时负责监督多家主流 AI 机构近期签署的白宫超级智能协议。

工作组章程要求建立新规，强制实验室上报数据泄露、黑客入侵和模型越狱等安全事件，同时强调避免过度监管和监管俘虏以保护行业创新。章程明确指出：“实验室最终须对其模型放大和加速带来的风险与机遇承担主要责任。”