重读科学怪人：AI真正的危险不是奇点，而是创造者的缺位

Photo by Dad Grass on Unsplash

人们经常把两个截然不同的故事混为一谈。

第一个故事是玛丽·雪莱（Mary Shelley）笔下的《科学怪人》（Frankenstein）：疯狂科学家造出了一个生命，怪物随后反噬造物主，所有人从中吸取“人类妄图扮演上帝必遭惩罚”的教训。

第二个故事则是技术圈热衷讨论的假说——技术奇点（Singularity）：机器智能超越人类，开始以指数级自我进化，最终发展到人类无法掌控的境地，甚至终结人类文明。

科技界总喜欢拿《科学怪人》作为“AI奇点危机”的文学隐喻，仿佛两者都在警示同一场灾难。这其实是巨大的认知偏差。这种混淆带来的遮蔽，比想象中更危险。

“奇点假说”把危险归咎于造物本身——一旦超级智能诞生，它强大的算力和意志会毁灭一切。而《科学怪人》所警示的危险，完完全全在于创造者本身——在于一个人创造了强大事物后，却彻底拒绝承担后续的所有责任。

一个故事在担心“能力超出控制”，另一个故事在拷问“从一开始就被弃置的责任”。人性天生喜欢把两种警示合并为一个省事的现代神话，因为沉溺于虚无缥缈的远期末日，正好能让我们心安理得地回避当下正在发生的、本可避免的溃败。

《科学怪人》究竟在讲什么？

1818年雪莱发表小说时，浪漫主义思潮正蔓延着对前沿科学的深切焦虑。当时，路易吉·伽伐尼（Luigi Galvani）和乔瓦尼·阿尔迪尼（Giovanni Aldini）正进行令人不安的电生理实验，把电流接在死者组织上观察肌肉抽搐。小说中的创造场景直接脱胎于这种时代震颤：电似乎是横亘在尸体与活物之间的神秘丝线，而人类的手似乎正试图僭越神明。

大众熟知的通俗版本往往过于简化：科学家创造出怪物，怪物反咬一口，成为警惕禁忌知识的道德寓言。但这根本不是雪莱的本意。

主人公维克多·弗兰肯斯坦真正的败局，不是他创造了生命，而是他创造了生命之后，彻底逃避了随之而来的一切道义义务。

他一个人在封闭的密室里追求禁忌知识，从未问过自己“该不该做”，更缺乏同行间的伦理探讨。当那个生灵睁开眼睛的那一刻，维克多瞬间被恶心与恐惧击溃，夺门而逃。他没有养育计划，没有照料意愿，不承认自己对眼前的被造物负有任何代价。当怪物在世间备受苦难时，维克多给出的回应只有恐惧、隐瞒与复仇。

翻看原著细节就会发现，怪物并非生来残暴。在故事开头，它好奇、敏感、渴望陪伴。它躲在窗外悄悄观察一户农家，笨拙地学会语言，渴望被人类社会接纳。它的暴力完全是后天被塑造出来的——那是一次次被创造者遗弃、被全人类唾弃与毒打后的恶果。怪物不是“禁忌技术”的产物，而是“责任弃管”的产物。

这才是这部经典更尖锐的内核：弗兰肯斯坦受到的惩罚，并非因为他创造了生命，而是因为他拒绝与自己的造物建立负责任的联结。

审视任何技术的五个核心拷问

抛开虚构小说，回到现实科技，我们可以提炼出一套审视任何颠覆性发明的框架。面对任何重塑人类生活的技术，真正值得追问的只有五个问题：

1. 它最初到底宣称要解决什么问题？
2. 它向使用它的人赋予了什么前所未有的权力？
3. 在最初描绘的繁荣蓝图中，哪些成本、风险和受害者被悄悄抹去了？
4. 它如何反向重塑了采用它的机构与个人的行为？
5. 当不可逆的代价爆发时，谁赚取了红利？谁在暗中买单？谁真正承担了法律与伦理责任？

这五个问题不是为了全面否定技术进步。下文列举的技术都曾带来过巨大价值，历史不应被简单二元化。但这五个问题能穿透盲目的乐观主义，照出一个残酷的现实：人类社会究竟有没有建立起驾驭后果的治理能力，还是只顾着狂飙突进，把治理成本踢给未来，甚至留给虚空？

历史上咬噬人类的五种力量

Photo by Sebastian Herrmann on Unsplash

历史根本不需要文学隐喻，它已经在工厂车间、化验室和服务器机房里，反复排演过同样的剧本。

1. 工业机械

最初的承诺无比诱人：更高的产能、更快的运输速度、单人产出成倍跃升。然而蓝图之外，是恶劣危险的厂房条件、被浓烟笼罩的城市贫民窟，以及把自然界纯粹当成原料仓库的掠夺模式。技术缺陷不在蒸汽机本身，而在当时的资本与制度假设：人类似乎可以单方面追求效率，把人的尊严、健康和生态红线当成“以后再说”的次要问题。

2. 化学农药

DDT等长效杀虫剂许诺守护庄稼、提高粮食单产，在粮食短缺的年代是绝对的正义。它确实短期达成了目标，但它的存续周期远远超出了人类的预估。化学成分渗入土壤、水源，在远离农田的生物体内富集。蕾切尔·卡森（Rachel Carson）在《寂静的春天》里敲响警钟：鸟类大面积死亡、害虫演变出抗药性、人体健康面临潜在毒害。农药的失败不在于杀虫无效，而在于研发者把消灭单一目标当作目标，傲慢地忽视了复杂交织的生态系统。

3. 核武器

诞生于生死存亡的战争硝烟中，原子弹提供了一个悖论式的承诺：以毁灭全人类的能力来换取绝对安全。到了冷战时期，这种逻辑固化为“相互保证毁灭”（MAD）。不可否认，核威慑或许在几十年间阻遏了大国间的全面热战，但我们付出的代价是整个人类头顶悬挂着永恒的存在性危机——无休止的军备竞赛、误判擦枪走火的长期风险，以及消耗海量社会资源维系的恐怖平衡。一旦被释放，潘多拉的魔盒就再也无法收回。

4. 互联网与算法

早期的愿景是自由连接、信息平权与跨越地理界限的协作。潜力的确被兑现了，但平台的商业逻辑很快转向了掠夺用户注意力。推荐算法迅速学会了一件事：带有情绪煽动性、挑起对立的内容，最能让人欲罢不能地向下刷新。虚假信息泛滥、群体极化、青少年心理健康危机随之而来。我们制造了旨在连接彼此的工具，却放任这套工具把“用户黏性”置于真实、智慧与人类福祉之上。这一切甚至不需要编写一行恶意代码，只要放弃价值把关就会自然发生。

5. 人工智能

AI是“科学怪人模式”在当下的集大成者，也是目前正在实时发生的历史。它许诺百倍生产力、加速科学突破、打破认知门槛，并在很多场景下正在兑现。然而，它同样在以惊人规模放大人类偏见、加速深度伪造扩散、冲击传统就业结构，并产生受害者根本无法看懂、更无从申辩的算法黑盒决策。

当下迫在眉睫的危险，从来不是某个产生自我意识的超级AI突然反叛人类——那是科幻小说里的奇点叙事。

真正的威胁在于：我们正在全球范围内大规模部署极其强大、底层原理连开发者自己都无法完全解释、缺乏外部审计、且纯粹追求代理指标而非人类真实利益的系统。更糟糕的是，部署它们的商业巨头与政府机构，正熟练地利用“技术黑盒”作为挡箭牌，推卸所有实际责任。一个带有偏见的人类决策只能影响眼前几个人，而一个内嵌了相同偏见的算法系统，能在几秒钟内将其放大并施加到数亿人身上，且无人认领责任。

将这五场技术浪潮摆在一起，规律清晰可见：

• 技术为解决现实问题而生；
• 其直接收益被迅速量化并大肆吹捧；
• 间接代价值被刻意无视或转嫁给弱势群体；
• 技术渗透速度远超社会治理体系的建立速度；
• 整个社会形成不可逆的依赖，纠错成本极其高昂；
• 最终，人类不得不把巨量精力消耗在治理技术引发的次生灾害上，却再也回不到起点重新设计。

这就是真正的“弗兰肯斯坦循环”。它与技术到底是机械、化学、代码还是深度学习无关，它只取决于人类在释放野心时，到底有没有同步带上负责到底的治理方案。

AI末日论究竟在争论什么？

在严肃研究AI安全的学者圈内，对于真正风险的落脚点存在深刻分歧。

学者 Timnit Gebru 与 Émile Torres 尖锐地指出，硅谷对通用人工智能（AGI）和人类灭绝风险的过度炒作，在意识形态上与所谓的 TESCREAL 思潮密不可分。他们的核心论点是：精英阶层利用对未来末日的宏大恐慌，将话语权和资源集中在少数科技寡头手中，同时借“安全”之名，心安理得地回避当下正在发生的真实伤害（如版权掠夺、算法歧视、劳动剥削）。这正是《科学怪人》式问题的当代复刻：用虚构的未来梦魇，掩盖当下弃管的失职。

Meta 首席AI科学家 Yann LeCun 则站在另一个极端。他认为当下对AI灭绝人类的担忧纯属庸人自扰。目前的大语言模型缺乏持久记忆、严密因果推理以及对物理世界的感知，距离超级智能相去甚远。

还有一种务实的折中观点：AI研发并不是开弓没有回头箭的黑盒，其间存在大量可以设立护栏的检查点。我们可以监控算力集群训练、设立关键能力红线、暂停高危部署、在系统失控前强行切断电源。这意味着，“弃管”从来不是历史的宿命，而是在每一个技术关口做出的主动选择或怠惰。

穿透迷雾：责任鸿沟远大于能力上限

奇点神话要求我们提防一种人类尚未拥有、甚至可能永远无法验证的能力——机器智能自我迭代到脱离掌控；而《科学怪人》要求我们警惕一种历史反复印证的人性痼疾——狂热地创造出强大的造物，随后对造物在真实社会中的后果拒绝负责到底。

每一项颠覆性技术其实都拥有两段生命：一段是开发者在实验室里赋予它的“设计生命”；另一段是它被投放到充满激励扭曲、权力寻租和复杂人性的人类社会中所生长出的“真实生命”。

所谓的弗兰肯斯坦困境，始于我们在第一段生命里倾注了所有精巧构思，却对第二段生命放任自流。

这并不意味着长期存在的AI风险不值一提，而是关乎当下最宝贵的注意力究竟该投向何处。真正的危险不在于机器的“能力上限”（Capability Ceiling），而在于制度与开发者的“责任鸿沟”（Responsibility Gap）。

负责任的创新，绝不仅是把模型训练得安全无害那么简单。它要求开发者与监管者在系统交付运行后，持续维持与这套系统的真实契约——将“对齐”（Alignment）视为终身维护的动态治理，而非一次性的技术达标测试；把重点放在全生命周期的追踪、审计、纠偏与侵权问责上，而非仅仅举办一场惊艳的发布会。

《科学怪人》不是关于怪物的寓言，它是关于人类自身的警钟。没有照料的创造是鲁莽，没有责任的权力是灾难。实验室的孤立闭门造车在1818年酿成了悲剧，在当下的算力机房里同样行不通。

任何机构或创造者，都不能在灾难降临时代替造物辩解说：“那是它自己的行为。”

一项技术的伦理生命，绝不会在它被发明出来的时刻画上句号。恰恰相反，在它被推向社会的那一刻，真正的考验才刚刚开始。