一位 OpenAI 演讲者提出「沉默的共识」:人们默认人类终将把世界主导权交给超级智能。他公开反对这一宿命论,主张人类必须握紧方向盘,并给出问责与可控智能体的务实路径。
就在我们交谈的此刻,历史上最重大的系列网络安全事件之一正在发生:一批严重漏洞陆续被披露,被称为「黑色十月」。这些漏洞藏身于互联网部分核心基础设施,由前沿 AI 系统发现。发现软件漏洞,是 AI 如今已具备的、可用于善也可用于恶的能力。用不了多久,另一项这样的能力就会出现,催生新的紧急项目:赶在恶意行为者之前,先发挥它有益的一面。我们今天所说的「AI 政策」,很可能大多在这种喧嚣中制定。
但我今天想谈的,是更宏观的问题:我们可能正走向何方。如果不清楚长期希望实现什么、避免什么,那么即使沿途每一步都明智,最终仍可能走向不愿看到的结局。
人们常说,科技行业对自己打造的事物将把我们带向何方,缺乏积极愿景。我不赞同。旧金山到处都是对技术未来的积极愿景:飞行汽车、自动驾驶、形态各异的机器人、核聚变,当然还有通用人工智能(AGI)。我们真正缺少的,是对制度未来的积极愿景:这一切究竟要如何运转?
遗憾的是,我最常见到的那种制度想象,很难称得上积极。它通常只被低声提起,更多时候只可意会。我称之为「沉默的共识」。
设想一家公司,几乎不需要人类劳动就能完成所有事情。它的 AI 系统开展研发、作出发现、谈判合同、配置资本、进行生产。假设它比借助 AI 的人类竞争者做得更好。如果人类参与只会拖慢业务,身为人类的管理者和所有者,就会有强烈动力把手从方向盘上移开。这种情况遍及全球经济,人类就会在市场竞争逻辑驱动下,放弃对全球商业活动的主导地位。久而久之,市场对机器需求的服务,可能与对人类需求的服务同等重要,甚至超越后者。
那之后会发生什么,谁也说不准。也许人类会获得巨大好处。如果那些将我们纳入其体系的机器高度珍视人类的内在价值,我们就可能成为它们的劳动及其创造财富的受益者。也可能,随着经济权力被剥夺、政治权力日益流失,我们会在世界上越来越无足轻重。也许少数人会掌握非同寻常的权力和财富,代价是广大民众普遍失去权力;也许我们所有人都会遭遇同样丧失权力的命运。无论具体情形如何,这份沉默共识的共同主线,都是人类在我们所熟知的世界中主导地位的终结。
上述情景,没有一种需要以 AI 反抗创造者为前提,也没有一种需要以 AI 所有者希望人类失去权力为前提。每一次将事务交给 AI 的决定,单独看都可能合情合理。但这些决定累积起来,却可能造就这样一个世界:人类已放弃对自身文明大部分领域的实际支配权。即使我们在 AI 安全与对齐上取得非凡进展,也仍可能发现自己已经臣服于一种新的机器实体。按照这份沉默共识的说法,在未来的美好版本中,那个实体将是善良的,是一台以人类最大利益为念的机器。
这份共识告诉我们,我们会把企业的钥匙交给这些机器,也会越来越多地把治理机构的钥匙交给它们。它们会以超越人类的智慧和判断力,让这些组织运转得更有效。于是我们会把双手从方向盘上移开,让这些充满关爱的机器接手驾驶。我们会像汽车里的乘客——那是一辆非常好的车,物质条件或许好得超出今天的想象——但我们终究只是乘客,无法掌控车子驶向何方。
有些观察者会说,这份共识建立在错误前提上,因为今天的人类本来就没有掌控世界。这一批评值得记住:并不存在一个统一的「我们」来决定该做什么。但这一点也不应让我们掉以轻心:尽管「我们」并不「掌控」世界,人类作为一个整体,确实在世界事务中居于主导地位。没有哪个动物物种能在资源控制权上对我们构成真正竞争。我们应当摒弃人类能自上而下掌控世界的观念,但不能因此否认一个显而易见的现实:人类作为整体,是地球上最主要的行动主体。
愿意把这份共识说出来的人中,有些认为这确实是一个美好未来;另一些人并不这么认为,却认定它不可避免,只能接受。沉默的共识之所以成为共识,并不是因为大家都认同它是好事,它也不是 AI 开发者之间的秘密计划。这份共识只在于:人类放弃对世界事务的主导地位是不可避免的;至少,人们很难想象出另一种未来愿景,能在超智能机器出现后依然真正站得住脚。一个人完全可以真诚地反对这种结局,却又难以构想出可信的替代愿景。这份共识大多时候无人明说,充其量只是被低声提起,这一事实本身就透露了端倪。
我鄙弃这份沉默的共识。我拒绝放弃人类的主导地位。我厌恶那种一切已成定局的宿命感。如果屈从于这份共识,我就无法直视幼子那双美丽的眼睛。所以,我要对它说不。而且我相信,是时候公开讨论这份共识了,让我们从大多浑然不觉的默认中清醒过来,不再被动接受这种愿景。
问题在于:沉默的共识之所以成为共识,自有其原因。当机器智能远远超越人类时,人类如何仍能握住方向盘,这是一个很难回答的问题。大多数尝试回答这个问题的人都依赖这样一种论点:AI 不过是工具,是一种不具备「真正理解能力」的模式识别工具。我担心,面对即将到来的现实,这些论点站不住脚。我担心,这些论点本身也是一种自满——这种立场主要建立在对 AI 能力的否认之上,而不是源于对人类主导的未来抱有明确、积极的愿景。当 AI 开始在困扰人类数十年乃至数百年的智力难题上取得进展时,我们就不能还说它们缺乏「真正的理解能力」。
那么,我为什么仍然相信人类必须保有主导地位?最简单的回答是,因为我是人,而且我确实是一个毫不掩饰的人类至上主义者。
但还有更深一层的原因。我们主导地位的根基,不在于我们的智力,也不在于永远垄断「真正的理解能力」。它的根基,在于我们的过去。
因为从泥土中走出来的,是我们。用泥土与石头建立原始社会的,是我们。仰望星空、追问缘由的,是我们。是我们,带着争斗与爱、嫉妒与喜悦,探索出了道德、伦理与法律。是我们歌唱、舞蹈,写作、作曲。是我们创造了历史,也是我们书写了历史。这份传承属于我们。我们建立的文明,是我们悉心守护的火焰,而这团火焰属于我们。我们的过去是一份辉煌的遗产,我们每个人都是它的守护者。履行这份责任,就包括参与 Michael Oakeshott 所说的「人类的对话」——那项始于远古的宏大事业。
在漫长曲折的历史中,我们缔造了文明。而在美国,文明的构想以个人权利为根基,尊重每个人行走于世、开辟自身道路的努力。人的生活可以变得更好,也可以变得更糟:明智的决定让我们收获成果,错误的决定则让我们承担后果。一个人走自己道路的权利,并不取决于他是否最聪明、最有智慧。我不会因为邻居的判断力比我更好,就失去公民地位。同样,我也看不出有什么理由,仅仅因为更聪明的机器出现,我的这一地位就该消失。恰恰相反,我认为我们有充分理由阻止这种事情发生。
有人可能会说,机器几乎读遍了这份遗产的全部文字记录,因此也是继承者。从某种意义上说,确实如此。但一个人即使读完了你家阁楼里的每一封信,也不会就此成为你的家人。AI 系统会加入人类的对话,起初作为旁观者,随后越来越多地成为参与者。但它们绝不能主导这场对话,更不能让这场对话失去意义。让出主导地位,既是背叛祖先,也是背叛子孙。如果连这都不值得抗争,就没有什么值得抗争。
不过,我认为,那些认同沉默共识的人,对机器超级智能将是什么样子,判断有误。他们忽略了世界运行方式中的某个关键因素,把智能与权力混为一谈。哪怕只是把今天 AI 系统的能力描述给五年或十年前的一位沉默共识认同者听,对方也很可能预测,如今的失业率会远高于实际水平,而人类全面丧失权力的进程也会比现实走得远得多。我相信,人类的集体智慧与能力,远比沉默共识的认同者所设想的更强大,我们的社会也会比他们预测的更有韧性。
但我也可能是错的。例如,事实也许很简单:完全自主运营的公司会在竞争中彻底击败人类经营的企业。如果真是如此,那么赤裸裸的经济逻辑就会促使越来越多的资本被交到机器手中。人类失去权力不需要机器推翻人类文明;只要资本主义企业的逻辑照常运行,就足以让它发生。在这种情形下,与 AI 革命最相近的历史类比就是农业革命:新的生产方式从根本上改变了人类社会的结构。对亲历农业革命的人们来说,这场转型是否令人愉快,远无定论;事实上,大量证据表明,这场转型让人类的福祉在数千年间都受到了损害。
我不知道这是否就是我们面临的未来。事实上,我曾在别处论述过,我并不认为会如此。但我的许多同事——他们聪明、心怀关切、富有责任感——认为这很可能就是我们的未来。如果他们是对的,我们反对沉默共识的斗争就会更加艰难。我们将不得不逆着经济潮流前行,并因此否定许多被我这样的古典自由主义个人主义者奉为圭臬的信条。这将是一项险象环生的事业,失败的可能性绝不低。但如果连这都不值得抗争,就没有什么值得抗争。
保有人类的主导地位,意味着人和人类机构仍须承担责任。这意味着,AI 开发者采用不安全的开发方式时,应当受到问责;也意味着,使用 AI 的个人和企业如果因滥用或缺乏监督而造成伤害,同样应当承担责任。这不仅需要法律,也需要支撑问责的技术基础设施。智能体的行为必须能追溯到负责的人;而没有与人类责任主体绑定的智能体,即使获准参与合法经济活动,也必须在安全约束下行动。对于智能体自主设立公司、持有财产或参与诉讼的任何权限,即使要授予,也必须极其慎重。
而在我所在的行业,我们可以开始认真思考,如何构建与人类主导地位相容的智能机器。我们可以构建这样的智能体:权限清晰易懂且有明确边界,行为可审计,用户也可以撤销授权。对实质影响他人的行为追究责任,并不必然意味着监控普通人的私生活,或终结匿名表达。我们可以承诺保护用户隐私,保障个人对其数字财产和数据的自主权,包括切实将数据迁移到其他地方的能力。我们不仅可以设计执行任务的系统,也可以设计帮助人们增进理解、作出决定的系统。我们还可以检验,自己打造的产品是否让用户更有能力在现实世界中采取行动。
这些都还不足以构成一幅完整蓝图,描绘拥有超人类智能的社会该如何运作。谁若声称自己已经有了这样一幅蓝图,我反而会心存疑虑。但这至少是一个起点。
未来笼罩在浓雾之中。但我们今天仍然可以行动。首先,我们可以共同把这份沉默的共识说出来,让它的轮廓显现在阳光之下。我们每个人,都可以把志向拓展到前所未有的高度与广度。我们可以选择不让 AI 削弱自己,而是付出艰苦的努力,让它拓展我们的能力。我们可以学着提出越来越大胆的问题,以全新的热情和锐气追问世界,并在这个过程中驾驭我们强大的机器。我们可以成为一种新人——不是超人类,而是潜能得到拓展的人。
看着我还在襁褓中的儿子时,我会想起这些。我不希望他只是被善意的机器照看着,无论它们能提供多么舒适的生活。我希望他所承接的世界,能让他提出前人未曾想到的问题,创造前人未曾想到的事物。我想给他的,不是一辆更好的车,配上一张更舒适的乘客座椅。我希望他握着方向盘。
免费获取企业 AI 成熟度诊断报告,发现转型机会
关注公众号

扫码关注,获取最新 AI 资讯
3 步完成企业诊断,获取专属转型建议
已有 200+ 企业完成诊断