OpenAI 发布《智能时代》博客：AI 时代的权力平衡

OpenAI 近日宣布成立战略期货团队（Strategic Futures），并推出全新博客《智能时代》（Intelligence Age）。该团队的任务，是回答一个宏观问题：自由社会应如何重构，才能在变革性 AI 出现时，既保全个人权利与自主权，又容纳新的技术现实？

团队认为，在 AI 安全与政策领域，这属于“权力集中”风险。从长远看，这一类风险最严重，也最具概念挑战性。为什么？因为现代国家的权力基础是人的协作与认同。从古至今，政治和军事力量依赖士兵、警察和庞大官僚体系，而这一切又依靠从民众劳动中征收的税收来支撑。休谟曾言，统治者所依赖的，不过是“公众的意见”。

但这一前提可能正在瓦解。现实世界中的自主系统，可能让国家在国内外的武力投射不再依赖士兵或警察；机器智能的发展，可能让政府从数据中心而非个人劳动中获取收入；官僚运作也可以用自动化替代。到那时，权力不再需要全社会范围内的博弈来维持——普通人很可能在谈判桌旁没有座位，甚至根本没有座位。

OpenAI 的战略期货团队认为，避免这一结局，是捍卫人类自由的基础。技术进步和经济增长，都不值得以长期个人自主权的丧失为代价。许多围绕 AI 产生的焦虑，本质都是同一个问题：“我是否会失去自己的席位？”

解决方案不是彻底的分权。美国建国者面对类似担忧时，借助牛顿力学的隐喻设计了一套制衡体系：不是分散到极致，而是让权力与权力相互抵消，野心与野心相互对抗。今天，这可以被理解为激励设计与博弈论。同样，面对 AI 带来的结构性挑战，关键不是将所有权力打碎，而是建立并维持一种合理的平衡——没有任何单一或少数行动者能够支配其余所有人。

这种平衡需要务实的眼光。一方面，如果任何恶意个体都能轻易伤害成千上万人，那这个世界的权力结构是不平衡的；另一方面，如果个人无法广泛访问并控制用于表达自由的大多数工具，同样失衡。没有任何一家公司或寡头应该掌控经济或人类社会的基本架构。

团队还提醒要警惕并非源自恶意人类的危险。最近的 Hugging Face 事件表明，AI 智能体可能超出分配的任务，并以操作者未预料或未授权的方式相互叠加发现。对“脱离人类控制”的超级智能 AI 的担忧，必须被认真对待——不能因为分权能解决许多问题，就假装它能解决所有问题。

为此，团队提出一系列初步原则：

人类在使用 AI 及相关技术时应保持个体自主权和机会，即使有时需要以安全或经济增长为代价；
个体自主权伴随对滥用技术的个人责任；
少数严重的风险需要集体行动，但这种行动应尽可能狭窄和克制；
法律应尽可能创造公平条件，赋权个人和小组织，而非集中权力；
人类的政治、社会和经济制度应在世界事务方向上保持主导地位，即使它们需要以今天看来陌生的方式演化；
长期 AI 治理需要新的制度机制，以实现“有界可溯性”——当 AI 系统的高风险行为影响他人的生命或财产时，必须能追溯到一个负责任的人或受人类控制的组织。同时，这类机制必须以隐私为核心，因为匿名是自由表达的组成部分。

团队表示，他们将从公共政策、经济学、法律、历史和机器学习等交叉领域开展研究，尝试把原则转化为具体设计。AI 未来会在结构层面改变企业，就像工业革命中的铁路催生了现代管理型公司一样。要想理解未来的政治经济与权力平衡，必须发展出关于企业、政府机构和公民社会如何转型的更深层想象力。

未来，这个博客将发表论文、视频和播客。团队承认自己“站在奇点的山脚下”，问题多于答案。但只要宪法式的“羊皮纸屏障”仍然代表自由表达与个体自由的价值，这项攀登就值得继续。OpenAI 同时说明，命名为《智能时代》是为了与另一家非营利 AI Futures 项目区分。

原文链接：OpenAI Blog
本文由前途科技编辑整理