拆解「AI末日论」的五大认知陷阱

硅谷当前的舆论场充斥着极端分裂的戏剧感：一边是狂妄叫嚣「数学研究已被彻底颠覆」，另一边是惊恐高呼「立刻暂停一切，AI要毁灭世界」。arXiv 上充斥着成千上万篇粗制滥造的预印本论文，媒体忙着在神话与恐慌之间疲于奔命。

作为一名在计算机科学领域深耕的人文学者，这种由技术工业复合体制造的情绪骚乱令人厌倦。恐慌的表面是奇点降临、经济崩溃和人类失能，但剥开这些末日论的宏大叙事，其底层逻辑立足于五个极具误导性的虚假假设。

虚假假设一：「人类面对AI毫无自卫能力」

末日论最经典的脚本是：AI 一旦连上网，就会脱离沙盒掌控。它会接管无人机展开屠戮，卷走银行资产，引发股市崩盘，甚至消解人类存在的必要性。

这个论点包含微量的事实，但结论完全跑偏。人类现有的数字系统确实脆弱，自动化武器确实会造成伤亡，不良产品也会让人沉迷。但这并不是因为 AI 有什么通天神力，而是人类一直在以极度糟糕的方式滥用工具——就像我们容忍危险驾驶夺走生命、容忍算法推荐引发心理疾病一样。恶劣的人用强大的工具做恶劣的事，这是历史常态。

但这从来不意味着我们无法防范。

面对物理伤害，我们给电动自行车加装限速器，给道路做降速设计；面对医疗风险，我们要求新药必须经过严苛的多期临床试验；面对高危工业设备，我们一定会强制安装实体断电开关。

既然如此，为什么不能给数据中心装一个物理层面的「红色拉闸按钮」，由公共监管机构直接控制？某些计算机专家总爱强调「这在技术上太难实现」，但计算机领域攻克的工程难题还少吗？

「无法自卫」背后隐藏的潜台词，其实是**「我们无法监管 AI」**。但这根本不是事实。真相是我们缺乏监管的政治决断。某些科技巨头一边在国会听证会上呼吁监管，展现出负责任的姿态，一边却完全不对自身产品进行实质性约束。他们摆出一副被动等待的无辜姿态，仿佛自己不是手握庞大资源的权力寡头。

虚假假设二：「技术的演进具有必然性」

技术决定论是末日主义者的精神支柱。只要相信技术具有自身意志且不可阻挡，就可以顺理成章地推卸道德责任。由此衍生出一套荒谬的救赎逻辑：既然技术灾难不可避免，全社会最好的选择就是把财富和权力集中给极少数科技精英（比如 Anthropic 这类公司），让他们以「正确且安全」的方式引领人类。

历史早就证明，没有任何一项技术的发展是命中注定的。

商业史上到处是被劣质方案淘汰的优质技术，多的是胎死腹中的颠覆性突破。许多技术之所以被发明，仅仅是因为上一代工程师读了关于虚拟现实或瞬间移动的科幻小说。无论在宏观还是微观层面，人类始终在主动决定让什么存在、让什么消亡。

技术决定论的真实底色，是资本主义逐利逻辑的必然性。资本必然追逐利润，大厂必然通过抄袭、诉讼和兼并来垄断市场，财富与权力也必然向极少数人聚集。大语言模型只是一块遮羞布，「不可阻挡」的从来不是算法，而是无节制的商业贪婪。这种贪婪是制度设计的结果，并非不可逆的天律。

如果公众被说服「一切不可逆转」，就会彻底丧失抵抗的意愿，这恰恰成就了科技巨头自我实现的预言。

虚假假设三：「世间万物皆可被转化为数据」

大语言模型以及文生图、文生视频工具的底座信仰是：人类已经表达的一切、想要表达的一切，本质上都是可被捕捉、量化和处理的数据。

这也是内容创作者感到普遍焦虑的根源。在平庸均值足以满足商业变现的市场环境下，大模型生成的内容迅速挤压了原创者的生存空间。这是劳工被资本体系剥削的现实危机。

但人类体验绝不仅仅局限于能被记录、拍照和数字化的切片。数字痕迹不过是人类真实生存状态的一道微弱投影。

如果问一个程序员「大模型无法模拟什么」，他可能会狂妄地回答「无所不能」。但如果追问一句：「它能模拟你对孩子的爱吗？」他大概率会陷入沉默。因为那需要全天候的情感监控，包含大量从未形诸语言的眼神、细微动作以及家庭成员心照不宣的默契。大模型能够拟合人类在互联网上留下的数字化副产物，却根本触碰不到人性最本质的内核。

这是经典信息论在当代留下的认知偏差：误以为有价值的东西全都是数字化的。在硅谷眼里，只有数字化才能规模化变现，所以只有数字化才算「价值」。至于人类不可量化的丰富经验，则被傲慢地视若无物。

虚假假设四：「一切社会运行皆依赖纯粹理性」

计算机和纯数学领域的学者最近陷入了合情合理的阵痛：大模型确实能解开极其复杂的数学定理，能自动化编写高质量代码。像 Claude Code 这样的工具，只要给定明确的提示词与约束条件，就能准确猜出程序架构的改动方向。这些学科正在经历库恩式的「范式转换」。

然而，末日论者由此推导出「全人类所有行业都将被颠覆」，就是典型的以偏概全。在更多领域，人们对大模型的实际反馈往往只是：「挺好用，帮我省去了一些机械的案头杂务，仅此而已。」

末日论者陷入了一种逻辑实证主义偏执，迷信所有值得探索的真理都建立在理性与推导之上。大模型本质上是一个超大规模的概率匹配网络，极其擅长处理纯形式化的符号系统、严谨的数理逻辑与确定性的代码规则。

但人类社会的绝大多数领域根本不是由纯概率和逻辑驱动的。人文、社科、艺术乃至绝大部分工程落地，深层支撑都是错综复杂、非理性且不可量化的人类情绪与人际互动。这些不可预测的社会动力学，大模型的训练集里根本没有——除了一些扁平化、刻板化的理论文字。

数理科学确实可能被深度重构，但指望以此颠覆整个人类文明，未免高估了理性的覆盖范围。

虚假假设五：「这一次的技术剧变截然不同」

末日论的核心论据之一是「这次不一样」。从印刷术、收音机、电视机到互联网，人类历史上经历过无数次针对新媒介的道德恐慌。每一次恐慌最终都被证伪，但 AI 鼓吹者声称大语言模型的冲击面远超以往：它不仅触及某种单一媒介，而是涵盖所有媒介；它不仅改变单一工种，而是横扫所有行业。

这个论断混淆了两个根本维度：影响的广泛性（Ubiquity）与破坏的烈度（Severity）。

文字的发明确实重塑了人类文明的每一个角落，但文明因此崩溃了吗？互联网同样渗透到了生活的方方面面，但当年精英们预想的「数字乌托邦」从未降临。真实落地的历史，是淘宝重塑了零售业态，微信接管了社交节点，大众在短视频与碎片信息中消磨时光。

AI 无疑会带来深刻的局部震荡，但绝不会导致人类文明的整体坍塌。没有任何一种工具拥有凌驾于社会结构之上的绝对魔力。再锋利的刀具也需要人来挥动，真正的权力节点始终在人、组织与制度手中。

末日论骨子里是计算机科学文化的一种自我迷恋，将工具本身神化为历史的主宰。历史反复证明，力量从未存在于算法之中，它始终附着在那些掌控工具、制定规则的人类身上。