AI末日究竟会是什么样：从一封辞职信到三类现实场景

一封辞职信引发的连锁反应

2026年9月8日，研究员 Jacob Coxon 从 Anthropic 离职。他此前三年分别在 OpenAI 和 Anthropic 做预训练研究，属于让大模型变强的核心岗位。他在辞职信里写道："建造 AI 的这些人真心相信，它可能在这个十年结束前杀死我们所有人。这不是营销噱头。"他放弃两个月后才归属的股权，选择离开。这篇帖子一天内被浏览超过一亿次。

Anthropic 内部没有人出面否认这封信。负责对齐科学的 Evan Hubinger 几小时内发帖称 Coxon 说得没错，他自己给出的十年内 AI 导致人类灭绝的概率也在十分之一以上。逾二十四名国会议员表示需要采取行动，但没有说明是什么行动。同时在建设自己前沿实验室的埃隆·马斯克称整件事是一场"心理操作"。

Wired 播客里的三类末日场景

在 Wired 播客 Uncanny Valley 中，主持人 Brian Barrett、Zoë Schiffer 和 Leah Feiger 讨论了专家最担心的三类现实场景：供水系统被黑客攻击、生物武器，以及自主机器人。

同一期节目提到，Salesforce 年度大会上，OpenAI 的 Sam Altman、Anthropic 的 Dario Amodei 与英伟达的 Jensen Huang 同台谈及 AI 安全，Altman 说世界害怕这件事是有道理的，行业面临失控事故和权力过度集中两大挑战。主持人意见不一：Barrett 认为公司说"我们在造核武器级别的东西"更像营销，但研究员辞职说"我造的东西会毁灭世界"则不同；Feiger 认为 Altman 的财务前途系于此事，很难不把他的表态也看作营销。节目还提到，这场争论已成跨党派议题——伯尼·桑德斯和史蒂夫·班农本周同台谈及此事。

发出警告的是什么人

这些末日警告主要来自一个已有约二十五年历史的互联网亚文化——理性主义社群，其成员自认为"比其他人想得更清楚"。这个圈子在硅谷之外并不知名，但在科技行业内部影响巨大，其写作者能左右业内声誉，成员遍布各大实验室、安全研究机构和相关慈善组织。

2025年12月，近五百人聚集在伯克利一间音乐厅，参加一场关于人类可能终结的仪式。组织者 Raymond Arnold 自2011年起组织这个社群，如今协助运营 LessWrong 论坛和伯克利会议场地 Lighthaven，自称"村里的牧师"。他在2025年估计 AI 引发灾难的概率超过五成，并在活动最暗的时刻说："我不觉得我们能撑过去。"

接下来看什么

国会议员表态"需要采取行动"，但源文本未提到具体立法计划或时间表。Wired 节目提到一篇相关报道探讨"AI 行业整体放缓是否合法"这一未决问题，监管路径仍不清晰。Altman、Amodei 与 Huang 的表态能否转化为具体政策，目前报道均未给出答案。