比尔·盖茨再发警告：AI风险超核武，人类别等大难临头才醒

“AI当然比核武器更危险。”

近日，比尔·盖茨在美国哥伦比亚广播公司（CBS）的播客《好问题》中警告，过去一年，AI模型已经跨过一些危险门槛，社会和政府却还没有做好准备。

从2023年宣告“AI时代已经开始”、强调风险可以管理，到后来发文提醒世界为动荡做准备，盖茨的警告越来越急迫。

“达到人类的智能水平之后，它也不会停下来。”盖茨担心，各家公司都觉得自己最适合掌管这项技术，于是争着全速前进，“结果就没有人谨慎行事”。

谈到工作，他预计，走向富足的过渡期可能持续几十年，其间“很多工作会消失”。年轻人该学什么？这位经历过个人电脑和互联网革命的人如今表示：“连10年后的世界都很难预测。”

主持人追问，是否要先发生一场灾难，美国乃至全世界才会真正着手应对？

“可以这么说。”盖茨回答。

他仍然期待AI改善医疗和教育，但一再强调，不能只靠行业自律。“未来四年非常关键。”在他看来，就业冲击将在这段时间逐渐显现，应对网络攻击和生物安全风险的监控机制，也必须建立起来。

AI比核武器更危险

主持人：2022年、2023年，你还对AI满怀期待。现在，你却在警告，人类将进入历史上最动荡的时期之一。是什么让你改变了看法？

盖茨： AI能带来的好处依然存在。但过去一年，模型进步惊人，跨过了一些危险的门槛，比如可能被用于生物恐怖袭击。社会的反应却没有跟上：该定什么规则？政府怎样具备足够的专业能力，监控这类活动？这些事不能只靠行业自己。

大学教授、智库、政策研究者，还有政界人士，都需要认识到：这项技术能大幅改善医疗和教育，也能被用来发动网络攻击或生物恐怖袭击。那会非常可怕。

主持人：伯尼·桑德斯认为，AI对人类的危险可能超过核武器。你同意吗？

盖茨： 当然。AI比核武器更危险，这一点毫无疑问。但它带来的好处也超过核能。

它和核技术一样，既有很好的用途，也有极其危险的用途，只是两方面的影响都要大得多。

主持人：你有没有粗略估算过，AI导致人类毁灭的概率有多大？

盖茨： 以今天的技术来看，人类毁灭还不是眼前的风险。但就业受到冲击、关键基础设施被瘫痪，这些风险已经真实存在，因为这些工具太强大了。

现在一些政客的反应过于简单：一派要求全部叫停，另一派要求全速前进。我希望更多人参与讨论，把问题看得细一些，尽量减少危害，让好处更快实现。

主持人：可即便人类毁灭的概率很低，只要想到这件事，就很难再去关心AI能怎样改善教育。

盖茨： 现有模型还不会让人类面临毁灭的风险。那是对未来的一种推演：如果我们不建立控制机制，任由AI自行其是，局面就会变得非常可怕。所以，我们必须重新掌控局面。

最近已经发生了一些事件，其中一起就是所谓的“Hugging Face事件”。

主持人：是的，那个AI突破了原本受限的运行环境，自行组织行动，入侵了另一家公司。这是个令人担忧的信号。

盖茨： 令人担忧的是，我们没想到这种事会发生。事实上，过了一段时间，我们才意识到它已经发生了。

我们应该从中吸取教训。行业内部需要建立有效的控制机制，社会也要参与进来，确保AI公司和所有发布模型的人遵守安全准则。把行业里的专业人才和政府制定的规则结合起来，建立审查机制，防止基础设施遭到这类攻击。

也许得先吃几次苦头

主持人：你说，我们必须迅速行动，还要建立新的机构。到目前为止，应对得怎么样？

盖茨： 让所有人都参与进来，非常困难。美国应该先做出表率。

有些人至今看不到问题，甚至觉得，业内人士反复讲这些风险，是在炫耀自己的工具有多厉害。这种理解是错的。这些担忧有充分理由，也是真诚的。可行业之外的回应，远远不够。

主持人：一个月前是这样。现在，AI公司、你和其他人都站出来发声了。你看到什么积极的回应了吗？

盖茨： 一些人的反应，是怀疑发出警告的人别有用心。我觉得这找错了方向。这些人是真诚的。马斯克、奥特曼、阿莫迪在很多事情上意见不一，可他们都在说同一件事，这本身就应该是一个足够清晰的信号。

相关的专业能力，大多集中在行业内部。这是第一种没有由政府出资推动的先进技术。核技术由政府资助，大多数武器也是。可这次，技术发展完全发生在政府之外，政府甚至都不是这些前沿技术的主要客户。

即便一切顺利，恐怕也要花一两年，我们才能理清：政府该由哪个部门负责？怎样与行业打交道？维护金融稳定、航空安全和核武器条约的经验，哪些可以借鉴？

主持人：如果富达或先锋遭到黑客攻击，全球数以万亿美元计的养老储蓄中有很大一部分受到波及，那就已经是大事了。

盖茨： 这种情况确实会造成不确定性。我们应该提前准备，尽力避免这些事件。

但假如没能防住，等到后果开始显现时，我们至少已经有了具体方案。人们会说，你们是对的，我们不想再经历一次。

连10年后的世界都很难预测

主持人：过去的科技会消灭一些工作，也会创造许多新岗位。你认为AI有本质上的不同，因为它的影响更广泛，对吗？

盖茨： 是的，因为它会超越人类智能。过去的技术进步，包括我有幸参与的个人电脑，提高了生产效率，也让人的智能更有价值，因此创造了大量不错的白领岗位。

这一次，自动化将在白领工作中占据优势。随着人形机器人发展起来，蓝领工作最终也会如此。

它最终会带来极大的富足。但过渡期可能长达几十年，其间有些工作会保留下来，很多工作会消失。

主持人：在AI出现之前，如果有人问，新技术会让20年后的世界变成什么样，谈到互联网的发展，我是很有信心的。现在有了AI，连10年后的世界都很难预测。

盖茨： 那些常规建议仍然有用：追随自己的好奇心，尽早学会熟练使用AI。它会让你做事更有效率。在仍然需要人类判断、需要人与AI共同完成的工作中，你也会更有竞争力。

但如果有人说，自己知道20年后的世界会是什么样，我认为他夸大了自己的判断力。这些工具太强大了，我们已经很难看清未来，应该谦虚一点。

未来四年非常关键。在这段时间里，我们会开始看到部分就业市场受到影响。网络攻击和生物安全事件的风险也在不断上升，因此监控机制必须在这几年建立起来。