OpenAI愿景：AI应惠及所有人

每隔几代人，就会有一项新技术改变一切。

想象一下1920年代电灯到达美国乡村小镇的情景。在电力线到来之前，日常生活受限于体力：打水、手洗衣物、用冰块保存食物、日落即结束一天。电力没有一夜之间改变每个家庭，其好处也不均衡。但随着普及，普通生活改变了。夜间灯光延长了白天。电泵、电器和冰箱减轻了最繁重的工作。收音机将数百英里外的新闻、音乐和联系带入家庭和社区。

电力的最初承诺是实用的，但更深远的影响在于它为更多人使用所开启的新可能性。随着时间的推移，大量新可能涌现，机器和计算机极大地加速了医学、工程等领域的发展。到20世纪末，平均寿命增加了20多年，经通胀调整后的收入中位数增长约三倍。这些进步很大程度上得益于医疗、卫生和生活水平的提高，而许多进步是由广泛电气化和相关技术进步推动或加速的。

AI正在重演这一过程。AI很快将能做非凡之事。但重点不是技术本身，而是人们能用它做什么。它可以帮助某人处理医疗账单、学习新技能、创办小企业、照顾年迈父母、理解法律或财务决策、将想法变成现实，或做出科学发现。

虽然夜间灯光的惊奇感可能很快消退，但人们决定用它做什么却不会。由于技术是长期创造繁荣的可靠方式，我们认为AI应该让每个人都能按需使用，无论何时何地。

那个未来不会自动到来。变革性技术可以集中权力，也可以分散权力。它们可以让少数人生活更轻松，也可以为多数人扩大机会。我们的方法根植于这样的信念：AI应该为人服务——帮助人们追求自己的目标，增强他们的能力，并尽可能广泛地分配这项技术的好处。

我们的首要承诺是构建服务于人类的AI。这意味着我们想要广泛赋能人们，而不是让权力集中在少数公司、政府或个人手中。我们相信更安全的未来是权力广泛分散的未来，这样世界上更多人可以参与构建韧性生态系统。

我们对AI持乐观态度，因为它相信可以扩展人类能力和繁荣。但我们也清醒地看到风险。强大的系统必须保持安全、符合人类意图并受人类控制。OpenAI的使命是确保AGI惠及全人类。这意味着构建帮助人们做更多选择的系统，而不是替代人类对重要事项的判断。

完全自动化一切不是我们想要的未来。那将令人不满，并且危险。AI应该帮助人们追求目标，而不是脱离目标。随着AI系统能力增强，人类角色变得更加重要：设定方向、做出权衡、运用判断，并将价值观、品味、关怀和责任带入工作中。

人类的一个关键长期角色将是决定什么值得做。

我们相信，几年内，AI做AI研究将成为进步速度的决定性因素。这很重要，因为对齐本身就是一个困难的研究问题。为了快速深入进步，我们的研究人员需要AI系统来帮助测试想法、发现错误、探索替代方案并与之一起迭代。

但更快的技术进步使人类判断和公共协调更加重要，而不是更不重要。未来应该由人、机构和社会塑造，而不仅仅是建造最强大系统的公司。

随着前沿AI发展继续，我们预计国家和全球协调将变得更加重要。我们一直认为，最终应该有一个国际组织来帮助协调领先的AI工作以减少灾难性风险。合作和共享安全标准是前进道路的重要组成部分，尤其是因为商业和国家竞争的激励很难避免。这样一个组织的目标之一应该是使世界能够采取协调行动，包括在必要时放缓前沿发展，以便社会韧性、安全和对齐能够跟上。

目前OpenAI有三个主要目标

构建自动化AI研究员——一个能够加速并日益自动化研究过程本身的AI系统，同时保持可操控、可问责并与人类相连。我们内部相信，到2028年3月，我们可能将有相当一部分研究由AI系统与我们自己的研究人员共同完成。为了在对齐方面取得足够进展，我们认为需要AI与我们并行迭代。这将帮助我们驾驭后AGI世界的过渡，以便共同决定通往未来的道路。

加速经济——通过加速科学进步、生产力和经济增长，同时努力确保收益广泛共享。每个人都应该有机会分享AI创造的繁荣。

为地球上的每个人提供个人AGI——使他们能够以自己选择的任何方式受益于人类最具变革性的技术之一。

为了实现这些，我们正在进入OpenAI的第三阶段。

第一阶段是进行AGI研究。第二阶段始于我们的研究变得与现实世界相关，我们成为一家产品公司：部署系统，从人们如何使用中学习，并持续朝着安全且符合使命的AGI前进。

现在我们进入第三阶段。经济开始围绕AI重塑。核心问题现在是如何让先进AI变得丰富、实惠、安全、有用且足够简单，以便每个人和组织都能从中受益。前沿能力只是工作的一部分。更大的任务是将这种能力转化为人们可以实际使用以蓬勃发展的工具。

最重要的是，我们相信权力的广泛分布将有助于带来更美好的未来。人类历史表明，集中的权力造成脆弱，而广泛共享的权力使社会更具韧性、适应性和自由。

这就是为什么访问权很重要。这也是为什么安全、隐私、可负担性、开放生态系统和公众监督很重要。

一个好的AI未来不可能是少数机构控制大部分能力和大部分收益的未来。它应该是一个许多人、公司、社区和国家能够构建、受益并掌握权力的未来。我们相信这场变革应该属于每一个人。

如果我们做对了，AI可以成为更大生产力、创造力、科学进步和经济机会的基础，惠及多数人，我们也将实现使命：确保AGI惠及全人类。

*AI韧性指的是社会可以建立的集体组织、系统和个体，以预期、承受、适应并快速从AI驱动的干扰中恢复。例如，汽车改变了社会，但只有在社会围绕它建立起系统（安全带、交通法规、驾照、碰撞测试、道路基础设施）后才变得广泛有益。目标不是阻止人们开车，而是让强大的技术变得有韧性以实现广泛使用。