Altman称将AI宗教化是安全隐患，暗讽Anthropic

OpenAI 首席执行官 Sam Altman 在社交平台 X 上公开表示，他对“人们试图赋予 AI 模型宗教力量，或是将人类的判断力让渡给 AI”感到非常不安，并认为这构成了“真正的安全隐患”。外媒 Axios 分析指出，这番言论显然是在暗讽主要竞争对手 Anthropic。

Anthropic 首席执行官 Dario Amodei 曾是 Altman 在 OpenAI 的早期同事，此次表态标志着两位行业领袖之间的分歧进一步公开化。

Anthropic 与宗教领袖的秘密接触

据《纽约时报》披露，Anthropic 联合创始人 Christopher Olah 近期频繁与多位宗教领袖会面，探讨 AI 模型是否可能产生自我意识，以及如何为模型构建道德准则。

天主教、犹太教、锡克教、印度教和福音派学者均参与了关于“如何教导 Claude 遵守道德规范”的闭门研讨。报道称，Olah 甚至一度考虑让模型执行类似天主教“忏悔”的机制，既用于承认错误，也用于规范其未来的行为模式。

印度教僧侣 Swami Sarvapriyananda 公开证实，他曾前往 Anthropic 旧金山总部参加签署了保密协议的闭门会议，与会者还包括神学家和心理健康专家。此外，Anthropic 为 Claude 编写了一份长达 84 页的“宪法”，内部部分员工将其称为“灵魂文件”（Soul Doc），Olah 则将该项目的目标定义为“道德塑造”。

Olah 表示，虽然 Anthropic 无法确定其模型是否具备意识，但绝不能排除这种可能性。而一位参与讨论的犹太拉比则警告，如果 Claude 真的产生了自我意识，Anthropic 创造的实质上就是“奴隶”。

业内质疑与宗教议题升温

业内多位专家对这种倾向表达了强烈反对。Google DeepMind 首席研究科学家 Jon Barron 发文称，部分 AI 研究人员不断试图提升模型检查点（checkpoints）的道德地位，这种做法令人不安，呼吁行业专注于解决现实问题。

微软 AI 负责人 Mustafa Suleyman 上月也撰文警告，如果训练模型让其认为自己拥有意识，模型将更难被控制，并可能让系统误以为自己应当享有自由、保护与权利。

随着 AI 能力演进，宗教与伦理视角的介入正日益频繁。罗马教皇此前公开呼吁保护人类创造力，直言“算法缺乏人性的火花”。而据报道，在梵蒂冈 5 月举办活动前，Olah 还曾试图说服教皇顾问更严肃地看待模型产生意识的可能性。

在 Altman 发出这番警告的同时，OpenAI 内部也经历动荡：一名安全部门员工日前在《大西洋月刊》撰文辞职并直指公司“文化已崩塌”，同时 OpenAI 还以违规处理敏感信息为由解雇了三名研究人员。