Goodfire质疑AI叠加假说：神经网络本身可解密

AI 可解释性实验室 Goodfire 的研究员 Nick Cammarata 近日发表文章指出，神经网络的可读性远高于学界此前的预期。他认为，领域内用于支持“叠加”（Superposition）假说的知名证据存在误读。这一观点在可解释性研究界引发了关于该领域是否即将迎来突破的激烈争论。Cammarata 将其观点定义为“工作假说”，关于大语言模型神经元的技术配套论文尚未正式发布。

核心论点：“递归泛化”而非“叠加”

在叠加理论中，当网络神经元数量不足时，会将互不相关的概念压缩塞进同一批神经元中。研究人员通常需要借助稀疏自编码器（SAE）等第二模型解开这些特征后才能开展分析。

Cammarata 则提出，大多数看似混合激活的神经元实际上源于“递归泛化”（recursive generalization）。神经元就像树木长出分枝一样，会围绕其核心功能延伸出相关的次级能力。例如，某个神经元可能从识别字符“iy”演变到识别“diy”，再扩展到识别“do it yourself”。Cammarata 写道：“我此前把叠加视作原假设，但它实际上是最激进、最难验证的假设，理应作为最后的备选。”

Cammarata 还复盘了自己过去的研究成果。他表示，此前在图像模型 InceptionV1 中发现的“猫和车”神经元，本质上只是一个检测尖锐 V 形线条的探测器；而他在 2020 年识别出的“汽车到狗”叠加回路也被证明是一个误判。

评估数据与测算方法

通过将 InceptionV1 与相同训练数据、同等规模的 ConvNeXt 模型对比，Cammarata 指出，ConvNeXt 最后一层约 99% 的神经元都易于解释。而在 InceptionV1 中，使用早期的分析工具仅能解释约 5%，使用现代工具则可解释约 50%。

在大语言模型方面，他在文章中透露：“在对 Qwen3-32B 的初步审查中，我们估计约 90% 的神经元极性仅承担一项主要任务，另有 7% 承担两项相关任务，仅有 2% 到 4% 目前尚未完全理解。”

该研究依赖 AI 智能体来生成神经元功能的解释并进行验证，期间测试了 10 万个归因图（Attribution Graph）。作为对比，OpenAI 在 2023 年利用自动化工具评估时，即便在最宽松的标准下，也仅认为约 1.7% 的神经元具有可理解性。不过 Cammarata 也提醒，具体统计比例取决于判别阈值的设置，他有“约 85% 的把握”认为几乎所有现象都源自常规泛化。

学界反应不一

该文章发出后引发了不同反响。部分研究社群对其表示欢迎，如 Latent Space 的行业通讯直接打出“智能体证伪多义性”（Agents disprove Polysemanticity）的标题。

也有研究者保持审慎。Google DeepMind 机械可解释性团队负责人 Neel Nanda 认为这项工作很有趣，但并未改变大局。Nanda 依然相信叠加现象的存在，原因之一是大语言模型记忆的事实数量远超其神经元数量，弱激活可能承载了大量记忆信息。他怀疑小型图像模型上的发现难以直接迁移到语言模型，同时认为该文章对“单义性”（monosemanticity）的定义过于宽松，基于神经元的分析仍容易产生严重偏差。

双方目前达成的一项共识是：模型能表征的概念数量确实多于其内部维度。Cammarata 质疑的核心在于网络是否真的会随机打包完全无关的概念。目前，该结论仍有待独立科研团队的复现与验证。