OpenAI呼吁建立前沿AI国际标准 应对递归自我改进风险

通用人工智能（AGI）的最终目标是惠及全人类。正如近期 OpenAI 首席执行官 Sam Altman 与首席科学家 Jakub Pachocki 在相关博文中所强调的，OpenAI 当前围绕三大核心目标推进工作：

1. 打造自动化 AI 研究员，迭代推进对齐问题研究，确保人类始终处于自我改进回路中，从而平稳度过下一阶段的技术演进；
2. 释放高智能机器带来的科学进步与经济增长红利；
3. 让每个人都能拥有个人专属的通用人工智能（AGI）。

随着全球各机构竞相推进技术突破，对齐研究必须与模型能力保持同步。当系统开始承担越来越多的技术研发工作、自主性显著增强时，维持人类价值对齐与有效控制变得尤为紧迫。这不仅需要前沿的对齐算法，还需要跨实验室、跨国界的统一标准。

递归自我改进（RSI）的机遇与隐忧

在不同程度的人类监督下，自动化 AI 研究正在成为现实。当模型逐步接手下一代 AI 的开发工作时，将推动“递归自我改进”（Recursive Self-Improvement, RSI）进程。随着这一循环的自动化程度提高，技术迭代速度可能出现几何级攀升。

自动化科研能显著降低高级智能的使用成本，使更广泛的群体受益；同时，自动化 AI 研究员也能兼任“自动化安全研究员”，用于加固关键基础设施、抵御恶意 AI 智能体（Agent）并研发新型防护工具。

然而，完全自主的 RSI 目前尚未出现。OpenAI 强调，除非能确保其绝对安全，否则不应盲目推进。技术前行与否，取决于人类是否依然保有控制权，以及社会是否基于知情民主选择就利弊达成共识。一旦缺乏严密防范，RSI 可能导致人类对不再理解的研发过程失去监管能力，引发系统失准甚至灾难性风险。此前 OpenAI 披露的 Hugging Face 平台安全事件便是一次警示。

国际标准的必要性

对于把控前沿技术节奏而言，国际安全标准的制定与对齐技术本身同等重要。标准能为技术防护措施划定基准线，明确“何为合格的灾难风险缓解方案”。

虽然各国现有机构（如美国人工智能标准与创新中心 CAISI）、地方法规及公私合作新模式正在探索治理方案，但面对全球化部署，依然存在三大痛点：

• 标准破碎化：不同国家关于评测、报告要求和事故定义的冲突，将增加跨境证据比对与风险响应的难度；
• 集体行动困境：各方各自为政可能带来谁都不愿看到的失控结局，RSI 加速的科研进度可能超出人类整体的理解与风控能力；
• 技术实力不均：全球前沿开发与安全专长分布不均，进一步放大了上述问题。

为此，OpenAI 主张由美国牵头，联合全球多国共同构建针对前沿 AI（特别是 RSI 领域）的国际技术标准。

两大核心支撑机制

落实前沿标准需要聚焦于两大支柱：

1. 衔接各国与国际前沿标准的协调机制

依托澳大利亚、英国、加拿大、法国、德国、日本、韩国、新加坡、印度等国已建立的 AI 安全研究所网络，通过 CAISI 及行业组织推进标准设立，聚焦能力基准测试以及针对 RSI 的风险收益管理。可进一步依托 CAISI 于 2024 年设立的先进 AI 测量、评估与科学国际网络展开公共机构合作。

这些技术标准应作为能力评估与风险防护的共同技术基石，而非行政准入许可、强制发布前审查或审批门槛，具体由各国自主决定如何纳入本土法律体系。

标准的制定需保持透明，广泛吸纳开源与闭源开发者、独立技术专家与学术界意见，避免对特定商业模式或新进入者造成不合理限制。这一思路可参考航空与国际金融监管经验，在不侵蚀国家主权的前提下建立合作渠道，并与 ISO、前沿模型论坛（Frontier Model Forum）、Agentic AI 基金会、开放安全 AI 联盟及 Appia 基金会等组织协同推进。