AI自我进化：从递归改进到奇点猜想

一道数学题摆在面前：如果AI系统能写出比自己更强的AI代码，那下一步会发生什么？

什么是递归自我改进？

Anthropic和OpenAI都透露过，Claude和GPT的代码库中超过80%是由它们自己写的。这引发了一个直击灵魂的问题：当AI能够完全独立编写出比自己更聪明的下一代时，会发生什么？

这个现象被命名为递归自我改进（Recursive Self Improvement，RSI）。概念本身不新——1965年数学家I.G. Good就提出过“智能爆炸”：一台超智能机器能设计出更智能的机器，最终人类的智慧将被远远甩在后面。这后来也被称为“奇点”。

构建AI到底有多复杂？

很多人把AI想象成一个黑箱：输入问题，输出答案。但AI是造出来的，背后有成百上千个决策点。

以LLM（大语言模型）为例，构建一个模型需要做出一系列“烹饪”一样的选择：

架构层面

• 高层架构：Transformer是目前的主流，但扩散模型、状态空间模型也在探索中。
• 低层细节：层数、宽度、专家混合数、分词器、上下文窗口、注意力计算方式、位置编码、归一化方法……每一个参数都是工程师反复纠结的结果。

数据层面

• 预训练数据：从哪里爬？是否合规？如何去重？
• 中/后训练数据：人工标注的Prompt-Response对、评分数据，如何设计指令？标注员该拿多少报酬？这些方法论直接影响模型行为。
• 数据混合：不同专家网络需要不同配比的数据。

训练与执行

• 训练循环：epoch数、batch大小、学习率衰减、采样策略、可验证奖励（比如代码、数学题的正误验证器）。
• 执行框架：Prompt过滤、系统提示、技能文件、响应过滤、工具调用（搜索、查天气等）。这些“外围代码”让AI看起来更聪明，但它们本身不是神经网络的一部分。

硬件优化

• GPU显存与吞吐量是关键。最近有报道称Claude重写了GPU调度软件，在某些场景下性能提升了18.7倍——这不是让模型更“聪明”，但让公司更省钱。

递归改进的三种路径

基于上述复杂性，RSI带来的自我改进可能走三条路：

硬起飞（Hard Take-off）

指数级加速，人类无法理解也无法控制。很多VC被这个前景驱动（术语叫foom，是加速冲向无穷大的拟声词）。但这需要革命性的新架构和无限的数据，当前的计算基础设施根本撑不住。

软起飞（Soft Take-off）

改进以人类能跟上的速度进行，每次创新人类都能理解。AI可能更快地找到优化方案，但不会超出人类的认知框架。即便到了某个“卢比孔河”点，人类仍然有能力干预——关闭服务器、断电、甚至扔EMP。

无起飞（No Take-off）

更像S型曲线：指数增长后遇到天花板——数据瓶颈、能源限制、物理极限。收益递减规律最终会让进步放缓。很多自然界的现象（比如生物进化）都是这种模式。

AI设计AI：已经存在

进化算法：随机生成大量网络配置，用适应度函数筛选，变异、复制，迭代出更优的模型。这不算真正的“自我改进”，因为它改进的是另一个东西。

自对弈强化学习：AlphaGo的成名套路。多个智能体互相博弈，最强的一个被冻结，其他的学习去击败它。循环往复。

现在有了LLM写代码的能力，RSI的闭环真正形成了：一个编码LLM写出训练另一个LLM的代码，新LLM再改进上一代。理论上，它甚至能优化自己的RSI循环策略，但实验成本极高——训练一次完整的新模型动辄几周甚至数月。

我的判断：软起飞或渐近线

从收益递减规律看，低层优化（架构细节、硬件调度）会逐步收敛；新数据的获取越来越难、越来越贵；高层架构革命需要海量试错，当前算力无法支持。

因此，硬起飞不太现实。软起飞更可能——人类仍有时间理解并介入。甚至我们可能已经处在渐近线阶段：AI能力在接近某个上限时放缓，而那个上限远低于“超越人类理解”的水平。

总结

RSI正在加速AI的进步，但眼前的成果更多是计算效率的提升，而非智力飞跃。真正让AI“变聪明”的因素——新数据和新架构——即使有RSI，也很难轻易获得。

如果奇点真会到来，大概率是软起飞。而且无论软起飞还是渐近线，安全、控制与治理的问题本质上是一样的：我们还有时间，也还有选择。