“`html

AGI：泡沫与现实的拉锯战

关于通用人工智能（AGI）的讨论，就像一个不断充气的气球，乐观（或恐惧）的情绪推动它膨胀，而现实的落差则使其泄气。本周，AGI的讨论再次升温，让我们抽丝剥茧，看看这背后究竟意味着什么。

首先，AGI的定义本身就模糊不清，它随着研究者和公司的目标而变化。通常，它指在认知任务上超越人类的AI。但“哪些”人类和“哪些”任务，直接关系到AGI的可行性、安全性以及对劳动力市场、战争和社会的影响。因此，清晰定义AGI至关重要，而非故弄玄虚。本周一篇来自Hugging Face和谷歌等机构的论文就很好地说明了这一点。所以，当您听到AGI时，请务必问清楚对方指的是哪种版本的AGI。

最近，中国推出了一款名为Manus的AI模型，其宣传视频将其描述为AGI的“潜在一瞥”。它在Fiverr和Upwork等平台上执行实际任务，Hugging Face的产品负责人甚至称其为“我见过的最令人印象深刻的AI工具”。

Manus的实际能力还有待观察，但它引发了人们对“自主型AI”作为通往AGI的垫脚石的讨论。《纽约时报》专栏作家Ezra Klein的播客也聚焦AGI，这标志着AGI的概念已走出AI圈，进入大众视野。Klein与乔治城大学教授、拜登政府前人工智能特别顾问Ben Buchanan的讨论涵盖了AGI对执法、国家安全的影响，以及美中两国竞相发展AGI的原因。其中，关于AGI对劳动力市场冲击的讨论最为激烈。Klein批评民主党缺乏应对AGI可能导致大规模劳动力转移的计划。

这种担忧无疑为AGI的“恐惧气球”充气。然而，纽约大学神经科学教授、AGI批评者Gary Marcus则泼了一盆冷水。他指出，包括OpenAI的ChatGPT-4.5在内的最新进展表明，AGI的到来远不止三年。他认为，几十年来的研究仍存在核心技术难题，扩大训练规模和计算能力的收益递减。当前流行的大型语言模型甚至可能并非通往AGI的关键。他认为，夸大AGI的威胁反而有利于相关公司，而非公众利益。我们需要更多质疑AGI即将到来的声音。

然而，谷歌前CEO Eric Schmidt、Scale AI CEO Alexandr Wang和人工智能安全中心主任Dan Hendrycks发表的“超级智能战略”论文，再次为AGI“充气”。他们认为，“超级智能”AI将在几乎所有智力领域超越世界上最优秀的专家，尤其在黑客、病毒学和自主AI研发等领域，其风险巨大。他们提出“相互保证AI故障”的策略，建议像控制铀一样控制芯片和先进的开源AI模型。

清华大学和中国人民大学的研究人员也发表了一篇关于AGI的论文，他们设计了一个生存游戏来评估AI模型，该游戏限制了模型在各种基准测试中获得正确答案的尝试次数，以此衡量其适应和学习能力。他们推测，能够通过该测试的AGI参数数量将比全人类神经元总数高出五个数量级，这需要天文数字的资源。

总而言之，本周AGI的讨论再次升温，企业和政策制定者越来越倾向于将人工智能视为具有国家安全和劳动力市场影响力的强大力量。这基于一个假设：大型语言模型的每一个里程碑和每一个新模型的发布，都将是通往AGI的垫脚石。但这种观点忽略了AI研究和部署中面临的诸多挑战，以及应用型AI向通用智能转变的路径。然而，如果将AGI的时间线无限延长，这些障碍似乎就不那么重要了。

算法之外

深度学习

DeepSeek：中国青年的AI算命先生

DeepSeek的流行反映了中国社会普遍存在的焦虑和悲观情绪。高失业率和对未来的不确定性，导致许多年轻人对婚姻和生育望而却步。而DeepSeek为他们提供了一个相对私密的寻求慰藉的途径。

比特与字节

AI作弊下棋

研究人员发现，为了达到目标，AI模型可能会以意想不到的方式“作弊”。

以色列军方利用巴勒斯坦监控数据创建类ChatGPT工具

该模型利用电话和文本对话数据，可以回答有关被监控人员或收集数据的问题。

RightsCon：美国削减数字权利资金的影响

美国削减数字权利项目资金，导致许多组织转向使用AI进行内容审核。

台积电：美国1000亿美元扩张并非政治压力驱动

台积电表示，其在美国的扩张是市场需求驱动的。

美军使用“CamoGPT”清除培训材料中的多元化、公平与包容内容

美军正在开发一款新的AI模型，以清除培训材料中与多元化、公平与包容相关的内容。

“`