维特根斯坦与大模型：百年前写好的AI技术规格书

1918年夏天，奥地利陆军炮兵军官路德维希·维特根斯坦在前线的炮火间隙里写成了一部不足三万字的小书——《逻辑哲学论》。他在序言中宣称，自己已在一切本质方面最终解决了哲学问题。一个世纪后，旧金山的两家实验室Anthropic与OpenAI，正在将通用人工智能（AGI）视为一个即将被解决的工程问题。

Anthropic与OpenAI的底层逻辑，早已写在了这本哲学著作中。《逻辑哲学论》的七组命题，宛如一份完整的大模型技术规格书：从语料到嵌入、从生成到预测、从架构到缩放与对齐，精准勾勒出了今天AI的成功与困境。

语料：世界是事实的总和

大模型训练为什么能从人类文本中提炼出类似“理解”的能力？

《逻辑哲学论》开篇命题指出：“世界是事实的总和，而不是事物的总和。”在过去两千年中，西方哲学主要探究“事物是什么”，而维特根斯坦指出：世界的基本单位是事实，即事物之间的关系（“苹果在桌上”，而非孤立的“苹果”）。“物能够成为事态的构成部分，这是物的本质所在。”

大模型的预训练同样如此：它不学习任何词汇的孤立本体，而是学习词与词在真实语言中的共现、组合与排斥。文本并非事物的清单，而是人类记录的事实总和。命题4.26写道：“给出所有真的基本命题，就得到了对世界的完全描述。”这就是大模型预训练的理论核心：语料不是单纯的原材料，而是世界本身的可计算表征。

嵌入：逻辑空间就是潜在空间

大模型将Token映射为向量的Embedding（嵌入）机制，本质上是维特根斯坦所说的“逻辑空间”。

“每一物都仿佛处在可能事态的空间之中。”模型内部不存在具体的概念实体，每个词进入模型后都变成高维空间中的一个坐标点，其意义完全由它与其他向量的相对位置决定。命题3.42提出：“一个命题虽然只能确定逻辑空间中的一个位置，可是整个逻辑空间必须已经由此给定。”这解释了大模型强大的泛化能力：生成从未见过的句子，只是在这个给定的潜在空间中激活了未曾点亮的新坐标。

生成与预测：图像论与幻觉的根源

维特根斯坦最著名的“图像论”认为，语言是我们为实在构建的模型。“在命题中，一个事态仿佛被试验性地组装了起来。”生成式模型每次吐出内容，都是在潜在空间中对可能世界进行的一次试验性组装。

在命题4.014中，维特根斯坦指出乐思、乐谱、黑胶刻纹与声波之间共享着同一种逻辑形式，可以无损投影。机器翻译与多模态模型之所以成立，哲学根基便在于此：不同介质共享同构的逻辑形式。

而对于大模型的核心机制——下一个Token预测，维特根斯坦在命题5.15中就给出了概率度定义。更重要的是，这揭示了模型幻觉的本质：“要识别图像的真或假，必须把它与实在相比较；不存在先验为真的图像。”模型只能接触到语料（图像的总集），却无法直接连通外部物理现实。因此幻觉并非工程缺陷，而是图像论系统的必然宿命。检索增强（RAG）和工具调用的本质，正是人为为模型补上验证实在的通道。

架构：命题的一般形式与自回归

在探索语言的一般形式时，维特根斯坦给出了整数构造法：从0开始，每个数由前一个数递推生成。这种序列化、逐项展开的运算，与今天大模型的自回归生成完全一致。Transformer堆叠的几十层网络，正是同一数学运算的连续应用。

维特根斯坦曾把映照世界的逻辑比作“一张无限精细的网，那面巨大的镜子”——这正是神经网络的写照。GPT的三个单词在这里精准对齐：Generative（生成，图像论）、Pre-trained（预训练，事实总和的压缩）、Transformer（变换器，逻辑运算的连续递归）。

缩放与涌现：指数展开的逻辑空间

缩放定律（Scaling Laws）解释了模型误差随算力、数据与参数规模呈幂律下降，而能力跨过阈值后的突变则被称为“智能涌现”。

命题2.0124指出：“如果全部对象都已给出，那么由此也就给出了全部可能的事态。”事实的进入是线性的，但事实组合构建的可能空间是指数级的。涌现并不是魔法，而是模型从死记硬背的“事实占有”，跃迁到整个“逻辑空间自洽”的相变时刻。

然而维特根斯坦也留下了警示：“在逻辑中永远不会有惊奇。”缩放定律只是一种经验归纳，不是因果解释。若将幂律曲线外推为无所不能的神学，便陷入了盲信自然律的幻觉。

对齐：价值不在世界之中

AI安全的核心是价值对齐（Alignment），但维特根斯坦在命题6.41中早已写明困境所在：“在世界之中不存在价值——假如存在价值，它就会没有价值。因此也不可能有伦理的命题。”

预训练大模型装载了世界的“事实”，但价值与伦理根本不在事实的集合之中，无法从语料中简单蒸馏。命题4.1212补充道：“凡是能够显示的，不能被言说。”价值只能通过行为显示出来。无论是人类反馈强化学习（RLHF）还是宪法式AI，本质上都是工程上的妥协：不再尝试教机器理解抽象的“善”，而是通过枚举对齐行为，让价值在规则之外得以显现。

梯子与终局

维特根斯坦在《逻辑哲学论》末尾留下了一句名言：“对于不可言说之物，必须保持沉默。”

大模型穷尽了人类已写下的全部符号与事实，但无法完全复制人类的生活实践——那些在工匠指尖的触感、医生的临床直觉、未被记录为文本的默会知识中存在的东西。只要人类还在真实世界中生活、创造机器没有的数据，人类就始终在为机器的世界拓宽边界。