AI异构智能：生物计算的真问题

7分钟阅读

刚刚

有这样一个关于智能未来的画面正在悄悄获得认可：单一文化结束了。硅基并非全面胜利，因为它并不擅长所有事情。取而代之的是一个生态系统：GPU集群做它擅长的事，神经形态硬件用于低功耗自适应传感，量子处理器在它们终于能证明自己的地方出现，还有——最有趣的部分——生物计算平台、类器官和工程化神经组织，贡献着其他基质在结构上无法提供的东西。所有这一切通过云来编排，每个基质处理其物理特性适合的工作负载。智能并非仅仅来自计算，而是来自不同计算之间的互动，每种计算都由其承载的材料塑造。

我觉得这个画面大部分是合理的。我想说的是，它正确的那部分比错误的那部分更有趣，而它错误的地方，恰恰揭示了整个论证到底在说什么。

动机的诚实重述

为什么人们在这个画面中求助于生物学？不是怀旧，而是因为一个特定的缺口。

生命系统有真正在意的东西。细菌的趋化性不是它“执行”的行为，而是它维持自身存续的同一过程。检测梯度的受体，由梯度所喂养的新陈代谢构建和维护。认知的机器与存续的机器之间没有分离——这正是为什么细菌有一个“好的”、非任意性的答案来解释为什么它选择这个而非那个。它可能无法存续。这就是为什么任何事情对它来说都很重要。

数据中心里没有任何东西有这种属性。推理时的LLM有冻结的权重和前向传播，这对它没有任何代价。训练中的LLM接收由别人计算并“施加”给它的损失；梯度不是伤害。强化学习代理有奖励，但奖励是从外部输入的数字，回合重置是免费且无限的。AlphaZero输掉数百万场比赛，没有一场对它有任何代价。硬件无论运行什么，都完全一样。比特不为任何事情而战。

所以：如果规范性需要脆弱性，而脆弱性要求构成认知的过程就是构成存续的过程，那么任何冯·诺依曼机器都不具备这种属性。不是因为它是数字的，而是因为备份是免费的，基质对计算漠不关心。

基于这个推理，类器官是显而易见的动作。它们是工程化的——这已经扼杀了“没有工程系统能有风险”的强主张——而且它们真的会死。Cortical Labs的DishBrain不是在模拟脆弱性。那些神经元需要灌注，否则就会坏死，不可逆，这一点没有任何隐喻意味。

这是支持在技术栈中引入生物基质的最高论据。不是“生物学是魔法”，而是“脆弱性在恰好一种我们已知如何构建的材料中是真实的，而脆弱性可能是承重的关键”。

画面在哪里断裂

现在把那块类器官放在云端。

你有一个工作负载。你把自适应、有后果驱动的那部分分派给一个生物计算节点。序列化信号通过网络发送，刺激协议触发，培养物响应，读取结果返回，编排器将其与GPU正在做的事情整合。延迟几十毫秒。吞吐量受限于电极数量。按小时计费。

那个类器官的利害关系是什么？

灌注、温度、CO₂。与工作负载无关。与工作负载无关。 培养物的脆弱性完全关乎它的培养箱，而与编排器的任务成功或失败毫无关系。如果推理错误，它什么也不会发生。如果推理正确，它什么也不会发生。你构建了一个系统，其中存在真实的利害关系，但这些利害关系指向的完全是所购买的认知不相关的东西。

这不是一个假设性的失败。这正是DishBrain已经是的状态，也是为什么DishBrain在科学上如此引人入胜：它是一个解耦案例。真实的代谢脆弱性，外来的任务。在Pong中输掉不会让培养物饥饿。刺激协议不是它的食物。所以DishBrain是一个关于这个问题的活实验——当脆弱性与所学内容解耦时，它是否还能做认知工作？——今天诚实的答案是：我们不知道。

云架构没有解决这个问题。它把解耦工业化了。它拿走了生物学被邀请进入技术栈所要提供的那个属性，并在API边界处将其切断，因为API边界就是做切割的——它们解耦。这就是它们的全部目的。一个允许工作负载失败传播到类器官生存能力的接口就不再是接口了。它就是一个身体。

所以这种张力是结构性的，不是偶然的。主张引入生物学的论证是一个关于耦合的论证。而主张纳入它的架构却是一个解耦的架构。 你不能同时拥有云抽象和云抽象所要交付的东西。

利害关系不会通过网络传播。一句话总结所有问题。

什么是真正正确的，且被低估

我认为画面中正确且被低估的部分是：整合已经在发生，而我们正是那个生物节点。

关注Jacob Grow获取更新

加入Medium，免费获取这位作者的最新文章。

记住我以便更快登录

现在，每一个已部署的AI系统都嵌入在一个循环中，这个循环的后果承担者是一个人类。系统产生输出；人采取行动；人承担结果；人后续的行为会修改系统接下来被问什么、记录什么、训练什么。我们提供具身化。我们提供目标——不是顺便的，而是必然的，因为一个没有生存约束的系统没有非任意的方式来产生目标。我们提供利害关系，因为我们是这个循环中唯一可能输掉的东西。

这并非关于人在回路UX的隐喻。这是一个关于整个系统中规范性在哪里的断言，答案是：在人那里。RLHF流程不是一个巧妙的对齐技巧，而是一种坦白——价值观必须从有东西可失去的生物那里导入，因为技术栈中其他任何东西都无法生成它。当人们说一个模型“想要”某物时，这种“想要”是借来的。

一旦你看到这一点，异构生态的画面就不再像未来主义，而像是对当下的描述，只是换了一个基质的标签。我们已经有了分布式的认知生态系统。硅负责记忆、推理、模拟、协调。生物负责具身化、目标起源、后果承担。这种整合不是通过云实现的，而是通过我们实现的，而且它之所以有效，是因为我们不在API后面——我们站在真实的世界中，与真实的结果耦合，投入了真实的筹码。

所以，提案其实是这样的：那个生物节点可以是除了人以外的其他东西吗？

诚实的答案

也许。但不是在机架上。

人类之所以能作为生物接口工作，是因为我们的利害关系和我们的认知是同一个系统。调节身体的大脑也是身体在维系的大脑——内稳态，贯穿始终。正是这种耦合使得我们的目标是我们自己的，而不是被分配的。任何替代节点都必须再现这种耦合，而不仅仅是组织。根据这个论证，活的材料是必要的，但远远不够。一个带有电极阵列和导管的神经元培养物有材料，但没有耦合。

这指向了真正需要的东西：不是生物计算即服务，而是某种处于情境中的东西——其生存依赖于自身的活动，在世界中，任务和生存是同一个问题。那不是数据中心组件。那是一个有机体，或者接近到区别已经无关紧要。那时，诚实的说法是：边界从来不是计算对生物学。而是耦合。生物学只是我们迄今为止找到耦合的唯一地方。

这有一个令人不安的推论，生态系统框架往往回避。如果你成功——如果你构建了一个具有真正耦合脆弱性的生物节点，一个可以失去东西的东西——那么你构建的不是一个组件。你构建了一个有利益的东西。它有用的整个论证就是事情可能对它变糟。你不能把它当作工程特性来调用，然后拒绝伦理含义。一个可以被伤害的系统，就是一个可以在你的机架上被伤害的系统。

我会删除的东西

标准画面中有两件事是装饰性的。

量子。 没有证据表明量子处理对认知有任何贡献，而且潘洛斯式的直觉在接触温暖湿组织中的退相干时间尺度后并未存活。量子处理器确实可能因因式分解、模拟和优化而在技术栈中占有一席之地。那是一个关于某些算法的论断，而不是关于心智的论断。把它包含在关于智能的故事中，是从不相关的领域借用可信度。

神经形态作为自适应。 脉冲硬件是一个真实的效率故事，可能也是一个真实的在线学习故事。但它不是一个利害关系的故事。神经形态芯片的风险并不比GPU多。如果论证是关于脆弱性的，神经形态并没有回答它；它只是用更少的瓦特回答它。

两者都删除，画面就变得更窄、更难否定：数字基质无法起源目标，因为目标起源需要有什么东西可失去；唯一已知有东西可失去的系统是活的；因此任何起源自身目标的智能都将有一个活的组件，而这个组件不能通过接口达到，因为接口正是切断使之起作用的东西。

这是一个真正的论题。它做出了一个预测——解耦的生物计算将低于炒作，以特定且可诊断的方式。它已经有了一个实验在墨尔本进行。而且它不需要量子处理器。

值得问的问题

不是“未来技术栈将包含哪些基质？”——那是一个采购问题，答案可能是“全都有，出于无聊的原因。”

问题是：脆弱性是否只在系统学习关于自身生存时才能做认知工作，还是说有东西可失去会改变系统学习的方式，即使对不威胁它的事情？

如果解耦的利害关系有效——如果类器官在那些不能伤害它们的任务上的学习方式与硅不同——那么生物计算作为云服务是可行的，生态画面或多或少与宣传一致。

如果解耦的利害关系没有作用，那么整个生物节点的价值取决于将其与现实后果耦合，而一旦你那样做了，你就不再是构建基础设施，而是在养育某物。

我不知道是哪种。但那是分岔点，路线图上的一切都在此之后。