AI领袖警告：自我迭代 AI 即将到来

面语大模型制造商 Anthropic 发出警告，认为人工智能可能很快具备递归自我改进能力，这一临界点或将在两年内到来。

递归自我改进的可能性

Anthropic 联合创始人 Jack Clark 在 5 月发表的一篇文章中指出，到 2028 年底，AI 系统有 60% 的概率实现全自动研发——即前沿模型可以自主训练自己的继任者。他的评估基于公开基准测试：AI 系统目前能够完成熟练人类需要 12 小时以上的任务，而 2022 年这一数字仅为 30 秒。

Anthropic 担心的核心问题是：Claude 已经编写了自身后续版本开发中使用的绝大部分代码。公司内部消息称，Anthropic 的工程师“已经不再写任何代码”。Clark 将此描述为反馈循环的早期阶段：AI 改进 AI，进而改进下一代 AI，可能不再需要人类研究员来驱动能力提升。

行业警报升级

这一警告来自 AI 行业领导者的广泛担忧。6 月 3 日，OpenAI 的 Sam Altman、Anthropic 的 Dario Amodei、Google DeepMind 的 Demis Hassabis 以及 Microsoft 的 Mustafa Suleyman 联合签署了一封公开信，敦促国会强制要求对合成 DNA 和 RNA 订单进行筛查——此举旨在防止 AI 降低生物武器的制造门槛。

Amodei 在近几个月尤为活跃。他在 1 月的一篇文章中警告，AI“将考验我们作为物种的本性”，并估计不受约束的 AI 发展有 25% 的可能性导致灾难性后果。他预测，在几乎所有领域都能超越人类的 AI 可能在未来一到两年内出现。

前路未卜

关于递归自我改进的论点仍存在争议。一些研究者认为，尽管 AI 在常规工程任务上表现出色，但缺乏完全自动化自身进步所需的创造性研究直觉。Clark 本人也承认这种不确定性，指出如果自动化 AI 研究在 2028 年底前未能实现，将暴露“当前技术范式中的某种根本性缺陷”。

尽管如此，Anthropic 的内部基准测试揭示了一个引人注目的趋势：Claude Mythos Preview 在 2026 年 4 月的一个语言模型训练优化任务上实现了 52 倍的加速，而一年前仅为 2.9 倍。这条路径是通向真正的递归自我改进，还是遇到收益递减的天花板，仍是行业面临的决定性问题。