订阅我们的每日和每周新闻通讯,获取有关行业领先人工智能报道的最新更新和独家内容。了解更多
尽管 2024 年美国大选的焦点集中在经济和移民等传统议题上,但其对人工智能政策的悄然影响可能更具变革性。在没有关于人工智能的单一辩论问题或主要竞选承诺的情况下,选民无意中将天平倾向于加速主义者——那些主张在监管障碍最小的前提下快速发展人工智能的人。这种加速的影响是深远的,预示着人工智能政策新时代的到来,该时代将优先考虑创新而不是谨慎,并标志着人工智能潜在风险与回报之间辩论的决定性转变。
当选总统唐纳德·特朗普的亲商立场导致许多人认为,他的政府将有利于那些开发和营销人工智能和其他先进技术的人。他的政党纲领对人工智能几乎没有提及。然而,它确实强调了一种以废除人工智能法规为中心的政策方法,特别是针对他们所描述的现任政府行政命令中的“激进左翼思想”。相比之下,该纲领支持旨在促进言论自由和“人类繁荣”的人工智能发展,呼吁制定能够促进人工智能创新的政策,同时反对被认为会阻碍技术进步的措施。
根据对主要政府职位任命的早期迹象,这种趋势得到了进一步的印证。然而,还有一个更大的故事正在展开:关于人工智能未来的激烈辩论的解决。
自从 ChatGPT 于 2022 年 11 月问世以来,人工智能领域一直存在着激烈的辩论,一方是希望加速人工智能发展的支持者,另一方是希望减缓发展的反对者。
众所周知,2023 年 3 月,后一派在公开信中呼吁暂停六个月最先进的人工智能系统开发,警告称人工智能工具对社会和人类构成“巨大的风险”。这封信由生命未来研究所牵头,是在 OpenAI 发布 GPT-4 大型语言模型 (LLM) 后几个月,ChatGPT 推出后不久发出的。
这封信最初由 1000 多位科技领袖和研究人员签署,其中包括埃隆·马斯克、苹果联合创始人史蒂夫·沃兹尼亚克、2020 年总统候选人安德鲁·杨、播客莱克斯·弗里德曼以及人工智能先驱约书亚·本吉奥和斯图尔特·罗素。这封信的签署人数最终膨胀到 33000 多人。他们被统称为“末日论者”,这个词反映了他们对人工智能可能带来的生存风险的担忧。
并非所有人都同意。OpenAI 首席执行官萨姆·奥特曼没有签署。比尔·盖茨和其他许多人也一样。他们没有签署的原因各不相同,尽管许多人表达了对人工智能潜在危害的担忧。这引发了许多关于人工智能失控可能导致灾难的讨论。在人工智能领域,谈论他们对末日概率的评估变得很流行,通常被称为一个方程式:p(doom)。然而,人工智能开发工作并没有暂停。
据我所知,2023 年 6 月我的 p(doom) 为 5%。这可能看起来很低,但并非为零。我认为,主要的人工智能实验室在发布新模型之前认真测试新模型,并为其使用提供重要的保障措施,这一点是真诚的。
许多对人工智能危险感到担忧的观察人士将生存风险评为高于 5%,有些人甚至评为高得多。人工智能安全研究员罗曼·扬波尔斯基将人工智能终结人类的概率评为超过 99%。也就是说,今年早些时候发布的一项研究(远在大选之前)代表了 2700 多位人工智能研究人员的观点,表明“对极端糟糕结果(如人类灭绝)的中位数预测为 5%”。如果你知道飞机坠毁的概率为 5%,你还会登机吗?这是人工智能研究人员和政策制定者面临的困境。
其他人则公开蔑视对人工智能的担忧,而是指出他们认为这项技术的巨大优势。其中包括安德鲁·吴(他创立并领导了 Google Brain 项目)和佩德罗·多明戈斯(华盛顿大学计算机科学与工程教授,也是《大师算法》的作者)。他们认为,人工智能是解决方案的一部分。正如吴所提出的,确实存在生存危险,例如气候变化和未来的流行病,而人工智能可以成为解决和缓解这些问题的一部分。
吴认为,人工智能开发不应该暂停,而应该更快地进行。这种对技术的乌托邦式观点得到了其他被称为“有效加速主义者”或简称“e/acc”的人的呼应。他们认为,技术——尤其是人工智能——不是问题,而是解决世界上大多数(如果不是全部)问题的方法。创业加速器 Y Combinator 首席执行官加里·坦以及其他硅谷知名领导者在 X 上的用户名中加入了“e/acc”一词,以表明他们对这一愿景的认同。纽约时报记者凯文·鲁斯捕捉到了这些加速主义者的精髓,他说他们有一种“全油门,不踩刹车”的方法。
几年前的一篇 Substack 新闻通讯描述了有效加速主义背后的原则。以下是他们在文章结尾处提供的总结,以及 OpenAI 首席执行官萨姆·奥特曼的一条评论。
2024 年大选的结果可能被视为一个转折点,将加速主义者的愿景置于一个能够在未来几年塑造美国人工智能政策的位置。例如,当选总统最近任命了科技企业家和风险投资家大卫·萨克斯为“人工智能沙皇”。
萨克斯是一位人工智能监管的直言不讳的批评者,也是市场驱动创新的支持者,他将自己作为科技投资者的经验带到了这个职位。他是人工智能行业最具影响力的人物之一,他关于人工智能的许多言论与新任政党纲领中表达的加速主义观点一致。
针对拜登政府在 2023 年发布的人工智能行政命令,萨克斯在推特上写道:“美国的政治和财政状况已经陷入困境,但我们作为国家拥有一个无与伦比的资产:由完全自由和不受监管的软件开发市场驱动的尖端人工智能创新。这一切都结束了。”虽然萨克斯对人工智能政策的影响力还有待观察,但他的任命标志着向有利于行业自我监管和快速创新的政策的转变。
我怀疑大多数投票公众在投票时并没有过多考虑人工智能政策的影响。然而,在非常切实的方式上,加速主义者由于大选而获胜,可能将那些主张联邦政府采取更谨慎的措施来减轻人工智能长期风险的人置于边缘。
随着加速主义者规划前进的道路,利害关系从未如此之高。这个时代是否会带来前所未有的进步还是意想不到的灾难,还有待观察。随着人工智能开发的加速,对知情公众讨论和警惕监督的需求变得越来越重要。我们如何驾驭这个时代将不仅决定技术进步,还将决定我们共同的未来。
为了弥补联邦层面的行动不足,一个或多个州可能会采取各种法规,这种情况在加利福尼亚州和科罗拉多州已经发生到了一定程度。例如,加利福尼亚州的人工智能安全法案侧重于透明度要求,而科罗拉多州则针对招聘实践中的人工智能歧视,为州一级治理提供了模式。现在,所有人的目光都将集中在 Anthropic、谷歌、OpenAI 和其他人工智能模型开发商的自愿测试和自我强加的保障措施上。
总之,加速主义者的胜利意味着对人工智能创新的限制更少。这种加速确实可能导致更快的创新,但也增加了意外后果的风险。我现在将我的 p(doom) 修改为 10%。你的呢?
加里·格罗斯曼是 Edelman 技术实践执行副总裁,也是 Edelman 人工智能卓越中心的全球负责人。
DataDecisionMakers
欢迎来到 VentureBeat 社区!
DataDecisionMakers 是专家(包括从事数据工作的人员)分享数据相关见解和创新的平台。
如果您想了解前沿理念和最新信息、最佳实践以及数据和数据技术的未来,请加入我们 DataDecisionMakers。
您甚至可以考虑 撰写自己的文章!
阅读 DataDecisionMakers 的更多内容