Sam Altman联合国安理会发言：前沿AI不能由硅谷独断

近日，OpenAI 首席执行官 Sam Altman 在联合国安理会就人工智能议题发表正式演讲。他指出，随着大模型能力呈指数级提升，人类正站在历史的关键十字路口：AI 既可能开启一场全新的文艺复兴，也可能演变成一场充满动荡与失序的技术冲击。

Altman 强调，AI 应当服务于人，赋予普通人更多自主权与创造力，而不是将人变成系统运行的零件，更不应滑向反乌托邦式的科幻恶梦。

必须警惕的两大极端风险

随着系统逐步具备递归自我改进（recursive self-improvement）的能力，AI 研发的自动化正在急剧压缩技术迭代周期。Altman 表示，在技术狂飙突进的当下，行业必须避免两种毁灭性结局：

1. 人类丧失对未来的控制权：当技术演进速度超出人类理解与干预的能力边界，系统将变得不可控。商业竞争不应成为企业盲目冒险的借口。即便灾难发生的概率只有 1% 甚至 0.1%，这个风险都不可接受。如果无法充分证明一个模型始终处于人类有效控制之下，就不应该去训练它。
2. 权力高度集中于少数机构手中：没有任何一家公司、一个国家或个人，能够凭借最强大的 AI 强行向全世界推行其单一价值观。必须警惕任何以“唯有自己可信”为由谋求技术霸权的逻辑。

面对盲目乐观与末日论两个极端，Altman 提出 OpenAI 坚持的三条原则：决策权始终在人、科研与经济红利服务全人类、技术赋能个体而非取代人类能动性。

从解题到科学发现：能力的跃迁

AI 正在展现前所未有的知识发现能力。Altman 回顾了技术迭代的轨迹：三年前模型仅能完成小学数学；两年前达到高中竞赛水平；去年已在国际顶尖数学竞赛斩获金牌水平；而在数周前，模型成功攻克了千禧年大奖难题之一——纳维-斯托克斯方程（Navier-Stokes equations）。这类数学突破将直接推动飞机设计、天气预报及血液流动研究等前沿科研。

呼吁建立全球前沿AI治理框架

Altman 直言，如此关键的技术发展不能替代民主程序，更不能由旧金山的几家实验室独自说了算。他向安理会呼吁建立国家与国际互补的前沿 AI 治理机制：

• 统一的能力衡量与安全标准：建立共通的标准体系，便于各国比对评估数据、验证合规性，并保留实质性的人类监督。
• 快速事件报告与分级机制：建立全球事故通报协议，确保在局部失误演变为系统性灾难前及时共享经验教训。
• 跨国威胁信息通道：在各国政府、关键基础设施运营商与技术专家之间建立安全通道，实时通报新出现的漏洞与安全威胁。

Altman 表示，治理框架应兼顾开源与闭源生态，既要支持初创实验室，也要规范成熟机构，避免形成保护行业既得利益者的监管壁垒。面对共同的技术变革，国际社会需要跨越地缘分歧，形成统一的安全底线。