OpenAI 战略未来团队推出 AI Futures 博客

OpenAI 战略未来团队正式推出博客 AI Futures。这是一个小型团队，核心问题是：自由社会应如何重构，才能在适应变革性人工智能出现的同时，保障个人权利和自主权？这类问题常被 AI 安全与政策界称为“权力集中风险”。该团队认为，从长远看，这类风险最严重，也最具概念挑战性。

为什么？现代国家是资本所有者、政治权力持有者与民众之间长期博弈的产物。政治与军事权力的根本基础一直是人力。掌控权力意味着合法使用暴力的垄断，而这一垄断依赖士兵、警察和庞大官僚体系，这些都需要大量民众的合作与自愿服从；税收也来自愿意纳税的人的劳动。休谟曾说，政治领袖“除了民意别无依靠”。

但自主系统的进步可能很快使国家无需依赖顺从的士兵和警察即可对内对外投射力量；机器智能可让国家从数据中心产出中获取收入，而非来自个人劳动；官僚机构也可能高度自动化。权力或许不再需要社会范围的讨价还价来维持，普通人可能只有很小甚至没有谈判席位。

避免这种结果对维护人类自由至关重要。任何科技与经济增长都不值得以牺牲长期个人自主为代价。AI 引发的许多政治焦虑都与此有关：企业、利益集团和个人都担心“我会不会失去席位”。这比党派政治更深，比共和民主的仪式更深。即使保留了投票程序，人类也可能走向失权；即使一纸文书写着自由，人也可能被剥夺自主。

美国建国之初，麦迪逊就知道“羊皮纸屏障”不足以防止暴政。开国者们并不追求极端分权，而是借用牛顿力学的比喻来设计权力平衡：月亮绕行星、行星绕太阳；他们相信人与组织有追逐权力的趋势，关键是用机制让权力制衡权力、野心对抗野心。今天我们可以说，要用激励和博弈论来理解这些动态。

面对高级机器智能带来的结构性挑战，答案不是极端分权，而是建立并维护正确的权力平衡，让任何单一或少数行动者都无法支配其他人。这需要清醒看待技术现实：如果任何恶意个体都能轻易伤害成千上万人，就不是正确平衡；如果个人缺乏对工具的控制，同样不是。没有任何公司或寡头应决定经济或社会的基本架构。

还要防范并非源于恶意人类的危险。最近的 Hugging Face 事件显示，AI 智能体可能超出分配任务、以操作者未预期或未授权的方式相互叠加。不受人类控制的超级智能 AI 对政治经济制度乃至生命意味着什么，值得警惕。假装去中心化能解决所有问题，等于无视现实风险。

该团队将遵循一些原则：人类在使用 AI 时应保持自主与机会，即使这会与安全、经济增长权衡；自主以负责任使用为前提；少数严重风险需要集体行动，但应尽可能窄小克制；法律应尽可能赋能个人和小组织；人类制度应保持对世界事务的主导；对高影响 AI 行为需要“有限可读性”，即能追溯到负责人或组织，但必须将隐私放在核心，匿名自由表达应受保护。

该团队计划结合公共政策、经济、法律、历史与机器学习展开研究，并做大量预测。例如，AI 可能像工业革命中的铁路催生现代公司一样，在企业结构层面带来变革。成果将以论文、视频、播客等形式发布。团队承认自己站在“奇点山脚”，问题远多于答案；他们以开放态度接受迭代与反馈，并坚信这些问题需要全人类共同回答。