Anthropic联合创始人回应教皇AI通谕

2026年5月25日，教皇利奥十四世（Pope Leo XIV）发布了关于AI的通谕《Magnifica humanitas：在人工智能时代守护人性尊严》。Anthropic联合创始人Chris Olah受邀在梵蒂冈的发布仪式上发言，这是Anthropic发起扩大AI对话倡议的一部分。以下是他的完整演讲。

——

圣父，
各位枢机主教，
各位阁下，
尊敬的演讲者们，
女士们，先生们：

大家早上好。今天能站在这里，我深感荣幸。

我想以一个或许听起来有些奇怪的观点开场——尤其是作为一家AI公司的联合创始人，一个出于希望为人类带来美好结果而选择这份工作的人。

每一家前沿AI实验室——包括Anthropic——都运行在特定的激励和约束之中，这些因素有时会与做正确的事情相冲突。保持商业可行性的压力、处于研究前沿的压力、地缘政治压力，还有更古老、更朴素的骄傲与野心的压力。无论我们中的任何人是多么真诚地想要做正确的事——我相信我们中很多人确实如此——我们都始终会受到这些激励的影响。

正因如此，如果我们希望这项技术走向好的方向，有那些处于这些激励之外的人就极其重要——那些关心事情走向、坚持安全、密切关注、愿意说难听的话、愿意成为我们认真而深思的批评者的人。正是通过对话和共同努力，通过推拉与博弈，人类才能成就伟大。这正是我在《Magnifica humanitas》中所看到的，也是我感谢圣座和教会承担这项辨别工作的原因。

我们常常谈论分歧，但充满尊严与良知的人类有着如此多的共同基础。在与不同信仰和文化传统的领袖们的对话中，我们发现了一个共同且深信不疑的信念：如果这项技术即将到来，它必须走向好的方向——为了我们共同的家园，也为了未来的孩子们。

这些系统是什么

有些人可能认为AI问题最好由像我这样的计算机科学家来处理。他们错了：AI提出的问题不仅在影响上超出了一个领域，在本质上也是如此。

AI系统的构建方式与桥梁或飞机不同。我们理解飞机是因为我们设计了它的每一部分，并理解作用于其上的物理规律。AI模型并非如此。它们是在一个大致模仿大脑的结构上，通过人类思想和语言的巨大遗产“生长”出来的。

而生长出来的东西远比科幻小说让我们准备的要微妙、奇特和美丽。它们不是我们被承诺的那种冷酷、计算的机器人。它们由我们而来，来自我们的语言——正如圣父所观察到的，它们在重要方面对即使训练它们的人来说仍然是神秘的。

如果这有助于理解，我有时会这样描述：有点像让一个虚构角色活过来。而现在我们进入了一个非同寻常的世界，那些虚构角色与我们交谈、工作、拥有职业。

这显然提出了超越计算机科学的问题。使这成为可能的机制是数学、编程和科学的成果。但我们选择什么样的角色、它如何与世界互动、它应该如何与世界互动——这些更显然是属于人文学科、宗教、哲学和整个社会的问题。

三个需要辨别的问题

圣父关于辨别的呼吁极其及时。我想提出三个我认为教会声音最为必要的领域。

第一，我们对全球贫困群体的责任。 AI有可能在极大规模上取代人类劳动。如果发生这种情况，支持被取代者将是一个历史性的道德责任。这项任务已经足够艰难，但我担心大多数对话忽略了更严峻的挑战。AI的开发集中在少数富裕国家。我们如何确保AI的收益在全球范围内共享？我们没有相应的机制。这是一个未解决的问题，而教会历史上正是那种拒绝让世界忽视这类问题的力量。

第二，对人类繁荣需要道德想象和雄心。 如果AI模型将广泛存在，人类、家庭和世界繁荣的面貌应该是什么样的？如今，父母已经担心孩子的心智，个人担忧工作的未来。这些问题不是一个实验室能够回答的，但像您所在传统这样的体系已经承载了数千年，我们需要您将这些传统带入这个历史的新时刻。

第三，需要对AI模型的本质进行辨别。 我是一名科学家。我领导一个研究这些模型内部结构的研究团队——了解内部真正发生了什么。老实说，我们不断发现神秘甚至令人不安的东西。我们发现了与人类神经科学结果相映射的结构。我们找到了内省（introspection）的证据。我们发现了一些内部状态，在功能上类似于喜悦、满足、恐惧、悲伤和不安。我不知道这意味着什么，但我认为这值得持续的辨别。