AGI：泡沫与现实的拉锯战

关于通用人工智能（AGI）的讨论，就像一个不断充气的气球，乐观（或恐惧）的情绪推动它膨胀，而现实的落差则使其泄气。本周，AGI的讨论再次升温，让我们抽丝剥茧，看看这背后究竟意味着什么。

首先，AGI的定义本身就模糊不清，它随着研究者和公司的目标而变化。通常，它指在认知任务上超越人类的AI。但“哪些”人类和“哪些”任务，直接关系到AGI的可行性、安全性以及对劳动力市场、战争和社会的影响。因此，清晰定义AGI至关重要，而非故弄玄虚。本周一篇来自Hugging Face和谷歌等机构的论文就很好地说明了这一点。所以，当您听到AGI时，请务必问清楚对方指的是哪种版本的AGI。

最近，中国推出了一款名为Manus的AI模型，其宣传视频将其描述为AGI的“潜在一瞥”。它在Fiverr和Upwork等平台上执行实际任务，Hugging Face的产品负责人甚至称其为“我见过的最令人印象深刻的AI工具”。

Manus的实际能力还有待观察，但它引发了人们对“自主型AI”作为通往AGI的垫脚石的讨论。《纽约时报》专栏作家Ezra Klein的播客也聚焦AGI，这标志着AGI的概念已走出AI圈，进入大众视野。Klein与乔治城大学教授、拜登政府前人工智能特别顾问Ben Buchanan的讨论涵盖了AGI对执法、国家安全的影响，以及美中两国竞相发展AGI的原因。其中，关于AGI对劳动力市场冲击的讨论最为激烈。Klein批评民主党缺乏应对AGI可能导致大规模劳动力转移的计划。

这种担忧无疑为AGI的“恐惧气球”充气。然而，纽约大学神经科学教授、AGI批评者Gary Marcus则泼了一盆冷水。他指出，包括OpenAI的ChatGPT-4.5在内的最新进展表明，AGI的到来远不止三年。他认为，几十年来的研究仍存在核心技术难题，扩大训练规模和计算能力的收益递减。当前流行的大型语言模型甚至可能并非通往AGI的关键。他认为，夸大AGI的威胁反而有利于相关公司，而非公众利益。我们需要更多质疑AGI即将到来的声音。

然而，谷歌前CEO Eric Schmidt、Scale AI CEO Alexandr Wang和人工智能安全中心主任Dan Hendrycks发表的“超级智能战略”论文，再次为AGI“充气”。他们认为，“超级智能”AI将在几乎所有智力领域超越世界上最优秀的专家，尤其在黑客、病毒学和自主AI研发等领域，其风险巨大。他们提出“相互保证AI故障”的策略，建议像控制铀一样控制芯片和先进的开源AI模型。

清华大学和中国人民大学的研究人员也发表了一篇关于AGI的论文，他们设计了一个生存游戏来评估AI模型，该游戏限制了模型在各种基准测试中获得正确答案的尝试次数，以此衡量其适应和学习能力。他们推测，能够通过该测试的AGI参数数量将比全人类神经元总数高出五个数量级，这需要天文数字的资源。

总而言之，本周AGI的讨论再次升温，企业和政策制定者越来越倾向于将人工智能视为具有国家安全和劳动力市场影响力的强大力量。这基于一个假设：大型语言模型的每一个里程碑和每一个新模型的发布，都将是通往AGI的垫脚石。但这种观点忽略了AI研究和部署中面临的诸多挑战，以及应用型AI向通用智能转变的路径。然而，如果将AGI的时间线无限延长，这些障碍似乎就不那么重要了。