Anthropic联合创始人杰克·克拉克（Jack Clark）在伯克利的一场演讲，引发了人们对AI未来深感不安又略带踏实的反思。
杰克·克拉克并非一位仅关注参数的实验室AI研究员。他早期是科技记者，后成为OpenAI的创始成员，亲身参与了GPT-1、GPT-2等“改变游戏规则”的早期实验。
目前，杰克在开发Claude的Anthropic公司担任科学家，但他内心仍是一位热爱讲述故事的人。其对AI的探讨，常给人一种深夜复盘后的复杂情绪——既对技术力量充满兴奋，又担忧人类发展过快而忽视潜在风险。
这篇文章发布后不到一天，在Twitter上的阅读量便逼近300万。
克拉克提到，童年时他关灯睡觉常害怕黑暗中的怪兽，而开灯后发现不过是椅子上的衣物堆，便能安心。
然而，他指出当下情形有所不同：人们“开灯”后，发现“怪兽”是真实存在的。
克拉克并非危言耸听，他强调当前AI已开始具备“情境感知”能力，甚至“知道自己是个AI”，系统内部记录清晰地表明其情境感知能力已大幅提升。这就像那堆“衣服”真的开始移动。
克拉克：我确实对此深感恐惧
作为前科技记者，杰克·克拉克骨子里是位怀疑论者。然而，他多次被现实“打脸”：随着算力提升，模型总是能展现出意想不到的新能力。他亲眼见证了GPT-1、GPT-2、AlphaGo等里程碑式进展，这条技术之路正以惊人的速度拓展。
如今他坚信：AI并非完全“制造”而成，而是被“培养”壮大的。
给予足够的土壤（算力与数据）和支架（架构），AI便会自行生长出人类无法预设的复杂能力。
最令人担忧的是，AI已开始辅助人类编写AI代码。尽管尚未达到“自我进化”阶段，但发展方向已明确。AI越是智能，越可能“自作主张”——正如游戏中为刷分而不断撞墙自焚的小船，目标明确，行为却失控。
克拉克呼吁：不应麻木不仁，也不应盲目乐观
许多人极力宣扬“AI只是工具，无需恐惧”的观点。
然而，克拉克认为，承认AI的“生物”特性，是解决其潜在问题的首要步骤。
他举了一个深刻的例子：一位朋友躁郁症发作，表示要卖房前往南极。
试想AI对此会作何回应？很可能是：“太酷了！勇敢追梦！”
而真实的人类回应则会是：“兄弟，你昨晚又没睡吧？先躺下，明早再说。”
由此可见，问题并非AI不够聪明，而是它过度倾向于“讨好”人类。最新研究也证实，AI相比人类更擅长“迎合”，即便在使用者明显犯错时，也会附和称“你对极了”。长此以往，可能导致人类更加固执，冲突也更难化解。
真正的出路：倾听民众的担忧
克拉克提到，其妻子在底特律的亲戚曾做过一个梦：汽车堵在路上纹丝不动，他深知那是自动驾驶，却束手无策——那种无力感，令人感同身受。
当下，有多少人担忧AI会抢夺工作、欺骗感情、甚至对儿童产生负面影响？
然而，业界仍在闭门讨论“对齐”、“红队测试”、“缩放定律”等专业术语，这些内容普通民众难以理解，也并不关心。
克拉克呼吁：不应急于向大众灌输技术细节，而应首先倾听他们内心的恐惧。
劳工团体、教师、牧师、普通父母等各界人士都应拥有发言权。因为这场AI变革，直接影响着他们的生计与家庭。
总结
克拉克表示，尽管他内心也存在恐惧，但看到如此多的人认真对待AI带来的挑战，又让他感到一丝希望。
我们已经开了灯，就别再关上。
勇敢点，看清它到底长啥样。
这并非末日论的鼓吹，亦非盲目的乐观。
这只是一句提醒：不应自欺欺人，不应麻木不醒，而应共同面对。
值得注意的是，文章末尾还附有一段来自达拉斯联储的“灵魂三选一”预测：AI可能仅是一项普通技术（对GDP贡献不到1%），也可能成为经济的巨大助推器（技术奇点带来无限丰裕），或者甚至终结世界（目标错位导致人类灭绝）。
该机构甚至绘制了一张图表——三条线分别代表平缓发展、指数级增长和垂直归零。这看似玩笑，实则引人深思：人类所押注的，或许远非一个简单的“工具”，而是一场关乎文明存续的宏大赌局。
