OpenAI 的蓝图：让 AGI 惠及所有人

每隔几代人，就会出现一项改变一切的新技术。

想象一下 1920 年代电力抵达美国乡村小镇的情景。输电线路到来之前，日常生活受制于体力限制：挑水、手洗衣物、用冰块保存食物，太阳落山后一天基本结束。电力并没有一夜之间改变每个家庭，许多好处也分配不均。但随着电力普及，日常生活发生了根本变化。夜晚有了灯光，延长了白天。电泵、家电和冰箱减轻了最繁重的日常劳动。收音机将数百英里外的新闻、音乐和联系带入家庭和社区。

电力的第一层承诺是实用的，但更深层的影响在于，随着更多人能够使用它，新的可能性被打开。随着时间的推移，机器和计算机极大加速了医学、工程等领域的进步。到 20 世纪末，平均寿命延长了约 23 年，经通胀调整后的平均收入增长了约 50%。这些进步在很大程度上得益于医疗、卫生和生活水平的提高，而这些又都因广泛电气化和相关技术进步而成为可能。

AI 正在重演这一幕。AI 不久将能实现非凡的事情。但关键在于技术本身，而在于人们能用它做什么。AI 可以帮助某人处理医疗账单、学习新技能、创办小企业、照顾年迈父母、理解法律或财务决策、将想法变成现实，或做出科学发现。

虽然夜晚的灯光带来的惊奇感可能很快消退，但人们用它来做的事情却没有。由于技术一直是长期带来繁荣的可靠途径，我们认为 AI 应该让每个人都能按需、随时随地使用。

这样的未来不会自动实现。变革性技术可以集中权力，也可以分散权力。它们可以让少数人的生活更轻松，也可以为多数人扩大机会。我们的方法根植于一个信念：AI 应该为人服务——帮助人们追求自己的目标，增强他们的能力，并尽可能广泛地分配这项技术的收益。

我们的首要承诺是构建服务于人类的 AI。 这意味着我们希望广泛赋能人们，而不是让权力集中在少数公司、政府或个人手中。我们相信，更安全的未来是权力广泛分布的未来，这样世界上更多人能够参与构建韧性生态系统。

我们对 AI 持乐观态度，因为它可以扩展人类能力和繁荣。但我们也清醒地认识到风险。强大的系统必须保持安全、符合人类意图，并受人类控制。OpenAI 的使命是确保通用人工智能（AGI）惠及全人类。这意味着构建帮助人们更好地选择做更多事的系统，而不是取代人类判断什么重要。

完全自动化一切不是我们想要的未来。这既不会令人满足，也会很危险。AI 应该帮助人们追求目标，而不是脱离目标。随着 AI 系统能力增强，人的角色变得更加重要：设定方向、权衡取舍、运用判断，以及将价值观、品味、关怀和责任注入工作。

人类的一个关键长期角色将是决定什么值得做。

我们相信，AI 做 AI 研究将在未来几年内成为进步速度的决定性因素。这很重要，因为对齐本身就是一个难题。为了取得快速而深入的进展，我们的研究人员需要 AI 系统来帮助测试想法、发现错误、探索替代方案，并与我们一同迭代。

但更快的技术进步使人类判断和公共协调变得更加重要，而非相反。未来应该由人、机构和社会塑造，而不仅仅是构建最强大系统的公司。

随着前沿 AI 的发展，我们预计国家和全球协调将变得更加重要。我们一直认为，最终应该有一个国际组织来协调领先的 AI 工作，以降低灾难性风险。合作和共享安全标准是前进道路的重要组成部分，尤其是在商业和国家竞争的激励难以摆脱的情况下。这样一个组织的目标之一应该是让世界能够采取协调行动，包括在必要时放缓前沿发展，以便社会韧性、安全和对齐能够跟上步伐。

目前 OpenAI 有三个主要目标

构建自动化的 AI 研究员——一个能够加速并日益自动化研究过程本身的 AI 系统，同时保持可引导、可问责且与人连接。我们内部相信，到 2028 年 3 月，我们可能会看到相当一部分研究是由 AI 系统与我们的研究人员共同完成的。为了在对齐方面取得足够进展，我们需要 AI 与我们一同迭代。这将帮助我们驾驭后 AGI 世界的过渡，让我们共同决定通往未来的道路。

加速经济，通过加速科学进步、生产力和经济增长，同时努力确保收益广泛共享。每个人都应有机会在 AI 创造的繁荣中获得有意义的一份。

为地球上的每个人提供个人 AGI，赋能他们以自己选择的方式从这项最具变革性的技术中受益。

为了实现这一点，我们正在进入 OpenAI 的第三阶段。

OpenAI 的第一阶段是开展通往 AGI 的研究。第二阶段始于我们的研究变得与现实世界相关，我们成为一家产品公司：部署系统，从人们如何使用中学习，并朝着安全且符合使命的 AGI 持续进步。

现在我们进入第三阶段。经济开始围绕 AI 重塑。核心问题是如何让先进的 AI 变得丰富、负担得起、安全、有用且足够简单，让每个人和组织都能从中受益。前沿能力只是工作的一部分。更大的任务是将这种能力转化为人们能够实际用来蓬勃发展的工具。

最重要的是，我们相信广泛分配权力将有助于创造一个更美好的未来。人类历史表明，权力集中造成脆弱性，而权力广泛共享使社会更有韧性、适应性和自由。

这就是为什么可及性很重要。这也是为什么安全、隐私、可负担性、开放生态系统和公共监督很重要。

一个好的 AI 未来不能是少数机构控制大部分能力和收益的未来。它应该是一个许多人、公司、社区和国家能够构建、受益并掌握权力的未来。我们相信这种转型应该属于每个人。

如果我们做对了，AI 可以成为更多人提高生产力、创造力、科学进步和经济机会的基础，我们将实现我们的使命：确保 AGI 惠及全人类。

*AI 韧性是指社会可以建立的集体组织、系统和个体，以预测、承受、适应并快速从 AI 驱动的干扰中恢复。例如，汽车改变了社会，但它们只有通过社会围绕它们建立系统——安全带、交通法规、驾照、碰撞测试和道路基础设施——才变得广泛有益。目标不是阻止人们开车，而是让一项强大的技术足够有韧性以支持广泛使用。

原文链接：OpenAI Blog
本文由前途科技编辑整理