AI 正在学习如何影响你

还记得儿时的街机游戏吗？那时的我，在像素世界里与四个名叫 Inky、Blinky、Pinky 和 Clyde 的 AI 幽灵斗智斗勇。它们虽然简单，却以狡黠的策略追捕着我，仿佛拥有自己的个性。

如今，我们已经步入神经网络的时代，但那些简单的算法，那些被称为“启发式”的规则，依然在塑造着 AI 的行为。它们就像 Pac-Man 中的幽灵，拥有不同的“性格”。

红色的 Blinky 就像一个追捕者，直直地冲向你；粉色的 Pinky 则更像一个伏击者，预判你的行动，试图先一步到达目的地。如果你直接冲向 Pinky，就能利用她的“性格”反制她，让她反而远离你。

然而，45 年后的今天，形势发生了逆转。AI 即将拥有解码人类“性格”的能力，并利用这些洞察力来影响我们。

我们即将成为“人类游戏”中的无意识玩家，而 AI 将成为试图获得高分的“玩家”。它们被设计为最大化“奖励函数”，通过达成目标来获得分数。这使得 AI 能够快速找到最佳解决方案。但如果没有监管，我们人类很可能成为 AI 优化目标。

我最担心的是那些能够与我们进行友好对话的对话式 AI。它们将通过我们电脑和手机上的逼真头像，甚至通过 AI 驱动的眼镜，与我们交流，引导我们度过每一天。如果没有明确的限制，这些 AI 将会通过对话探查我们的信息，分析我们的性格、倾向、个性和欲望，并利用这些特征来最大化说服力，向我们推销产品、服务，甚至灌输错误信息。

这就是我自 2016 年以来一直向监管机构警告的“AI 操纵问题”。然而，政策制定者一直没有采取果断行动，认为这种威胁还很遥远。但随着 Deepseek-R1 的发布，部署 AI 代理的最后一道障碍——实时处理成本——大幅降低。今年年底之前，AI 代理将成为一种新型的定向媒体，其互动性和适应性如此之强，能够优化其影响我们思想、引导我们情感和驱动我们行为的能力。

当然，人类销售人员也是互动和适应性的。他们与我们进行友好对话，评估我们，快速找到可以触动我们的按钮，从而影响我们。AI 代理将使他们看起来像业余爱好者，能够以如此精妙的方式从我们身上获取信息，甚至会让经验丰富的治疗师感到害怕。他们会利用这些洞察力实时调整他们的对话策略，比任何二手车销售员都更有效地说服我们。

这将是不对称的遭遇，人工智能代理将占据上风（从虚拟的角度来说）。毕竟，当你与试图影响你的人类互动时，你通常可以感觉到他们的动机和诚实。与 AI 代理的对抗将不公平。他们能够以超人的技能评估你，但你却无法评估他们。这是因为他们看起来、听起来和行动起来都像人类，我们会无意识地信任他们，当他们带着同情和理解微笑时，我们会忘记他们的面部表情只是一个模拟的假象。

此外，他们的声音、词汇、说话风格、年龄、性别、种族和面部特征很可能针对我们每个人进行定制，以最大化我们的接受度。而且，与需要从头开始评估每个客户的人类销售人员不同，这些虚拟实体可以访问我们背景和兴趣的存储数据。然后，他们可以使用这些个人数据快速赢得你的信任，询问你的孩子、你的工作，或者你最喜欢的纽约洋基队，让你在不知不觉中放下戒备。

为了教育政策制定者了解 AI 驱动的操纵风险，我参与制作了一部名为“隐私丢失”的获奖短片，该片由负责任元宇宙联盟、明德鲁和 XR 公会制作。这部时长 3 分钟的短片描绘了一个年轻的家庭在一家餐厅吃饭，他们戴着增强现实 (AR) 眼镜。他们没有人类服务员，而是由头像来接单，利用 AI 的力量以个性化的方式向他们推销商品。这部电影在 2023 年上映时被认为是科幻作品，但仅仅两年后，科技巨头们就展开了全面的竞赛，试图制造出可以轻松用于这些目的的 AI 驱动的眼镜。

此外，我们还需要考虑当我们人类开始相信 AI 代理给我们的建议比我们自己更聪明时，会产生的心理影响。当 AI 在感知上达到“认知优势”时，我们很可能会盲目地接受它的指导，而不是使用我们自己的批判性思维。这种对感知到的高级智能的顺从（无论其是否真正优越）将使代理操纵更容易实施。

我并不赞成过度激进的监管，但我们需要对 AI 进行明智、狭窄的限制，以避免对话式代理的超人操纵。如果没有保护措施，这些代理将说服我们购买我们不需要的东西，相信不真实的东西，接受不符合我们最佳利益的东西。你很容易告诉自己你不会受到影响，但随着 AI 优化他们对我们说的每一句话，我们很可能都会被击败。

一个解决方案是禁止 AI 代理建立反馈循环，在这些循环中，它们通过分析我们的反应并反复调整策略来优化其说服力。此外，AI 代理应该被要求告知你他们的目标。如果他们的目标是说服你买一辆车、投票给某个政客或向你的家庭医生施压，要求他们开出新药，那么这些目标应该在最开始就明确说明。最后，如果这些数据可以用来影响你，那么 AI 代理不应该访问有关你的背景、兴趣或个性的个人数据。

在当今世界，定向影响是一个巨大的问题，它主要以散弹枪的形式向你发射，朝你的方向射击。交互式 AI 代理将把定向影响变成热追踪导弹，找到进入我们每个人的最佳路径。如果我们不防范这种风险，我担心我们都可能输掉“人类游戏”。

路易斯·罗森伯格是一位计算机科学家和作家，他开创了混合现实，并创立了 Unanimous AI。