奥特曼联合国演讲：警惕AI失控，呼吁建立全球监管标准

OpenAI 首席执行官 Sam Altman 日前受邀在联合国安理会发表演讲。他指出，随着大模型技术在近几个月加速演进，AI 正在迎来质变节点，发展前景更加明确，但伴随而来的风险和代价也变得更加紧迫。

Altman 认为，AI 既可能开启类似文艺复兴的创造力大爆发，也可能演变成一场充满动荡与混乱的新工业革命。科技行业面临的关键抉择，是让工具赋予人类更多自主性，而非将人类变成庞大机器中的齿轮。

防范两大极端风险：技术失控与权力集中

在演讲中，Altman 明确提出了 AI 发展过程中必须规避的两大潜在危机：

1. 技术失控风险：随着系统自主性提高，递归自我改进（recursive self-improvement）可能让技术演进速度彻底脱离人类理解与干预能力。Altman 强调，业内绝不能因竞争压力或利益诱惑而牺牲安全性，即便发生灾难性风险的概率只有 1% 甚至 0.1%，都是不可接受的底线。若无法确保模型始终受人类控制并完成对齐，就不应进行训练。
2. 权力高度集中：最强大的 AI 模型若被极少数个人、企业或单一国家垄断，可能导致特定价值观被强加于全球。他认为必须坚决拒绝“仅有少数特定机构才配掌控这项技术”的逻辑。

OpenAI 坚持的三项治理原则

为了平衡技术乐观与末日论两种极端倾向，Altman 阐述了引导 AI 发展的三个核心导向：

• 人类必须处于决策核心：对齐工作并非抽象的学术课题，而是确保系统体现人类价值观的根本抓手。人类的自主判断与核心价值绝不可被自动化取代。
• 技术成果服务大众：AI 应当赋能科研人员、医生、教师和创业者，解决过去难以企及的现实挑战，通过更强大的工具增强人类的自主能动性。
• 技术红利普惠每一个人：技术的使命在于赋能全人类，科技企业只是工具的构建者，而非时代叙事的核心主角。

Altman 还提及了模型在知识发现领域的最新进展。从最初应对中小学数学，到去年在国际数学竞赛中达到金牌水平，近期更有模型在千禧年大奖难题（纳维-斯托克斯方程）的相关探索中展现出突破性能力。他表示，攻坚科学难题的终极目的，是为医疗健康与民生发展探索更多未知可能。

科技企业不能取代民主程序，呼吁全球协作

针对全球治理，Altman 强调，关乎全人类未来的重大决策绝不能仅由旧金山的科技实验室闭门决定，必须交由民主程序和对人民负责的政府共同制定。

他呼吁国际社会建立全球协同机制，重点推进以下方向：

• 统一评测与准则：在国际层面建立互补的标准体系，涵盖前沿模型能力衡量、风险评估和防护措施充分性判定。
• 全球核查与共识语言：制定各国通用的证据标准，以便多方客观核查合规情况，使用共同的技术语言应对变革。
• 建立快速事件报告通道：设立规范的事故分类与报告机制，确保全球能从突发技术故障中吸取教训，避免演化为系统性灾难。
• 跨界安全信息共享：在各国政府、关键基础设施运营方和安全专家之间建立安全通道，实时通报新发现的模型漏洞与潜在威胁。

Altman 最后指出，国际治理框架既不能固化现有巨头的竞争优势，也不应偏袒特定的商业模式，而应同时包容开源与闭源生态。在尊重各国司法主权的前提下，建立全球层面的监督与安全共识，是确保这项技术真正服务人类的唯一途径。