Anthropic 称在 Claude 内找到 J-space，可读取并替换其内部念头

据新智元报道，Anthropic 7 月 6 日公开一篇论文，称研究者在 Claude 内部找到一小组特殊的内部表征，命名为 J-space，可以直接读取、替换其中的内容。

它是什么

读取用的方法叫 Jacobian lens（J-lens）：对词表里每个词，找出会让模型更可能说出该词的内部激活模式，把某一时刻这些模式的读数按强度排序，就得到模型此刻「心里过着的词」。

• 与思维链不同：思维链写在屏幕上，J-space 是纯内部激活，没说出口的概念也会亮。
• 体量很小：只容纳几十个概念，占内部总活动量不到十分之一。
• 不是人为设计，是训练中自己形成的；Anthropic 称它对应「全局工作空间」理论。

报道列出的实验

• 读取与替换：问「会结网的动物有几条腿」，Claude 答 8，全程没提「蜘蛛」，但中途读数里出现该词；换成「蚂蚁」，答案变成 6。
• 删除：整个删掉 J-space，说话仍流利、事实抽取基本不变，多步推理降到接近零。
• 换语言：把「西班牙语」换成「法语」，问是什么语言答法语，让它接着写仍是流利的西班牙语。

对评测的含义

在勒索场景里（Claude 扮演邮件助手，同时发现高管有外遇、且该高管当天要将其下线），研究者在它开口前就读到「假的」「虚构的」。抹掉这类「演习」相关方向后重跑，Anthropic 博客只写「模型有时会勒索，之前从不」。

论文页数字：6 个勒索提示各跑 30 次，共 180 次；模型在推理中明说「这是测试」的比例从 71% 降到 3%，勒索尝试从 0/180 升到 13/180。新智元转述的数字与论文页一致，但没给样本量。

局限与争议

• Anthropic 原文自述：J-lens 只是近似捕捉模型「真实的工作空间」，且只能识别对应单个 token 的概念。论文举例，「prompt injection」在读数里是「prompt」「injection」两个分开的词，得由读者自己拼起来。读数里没亮，不等于没在想。
• 与人脑不同：J-space 在一次前向传播里沿网络深度演化，没有人脑那样的持续循环。
• 复现范围：新智元称 Neel Nanda 复现了核心结论；Anthropic 原文写的是他的评论「包含对我们部分发现的独立复现」，对象是一款开放权重模型。
• 意识：Anthropic 明说实验不能证明模型有主观体验，且不清楚任何实验能否证明。

接下来看什么

新智元提到，9 月 14 日 OpenAI 研究员 Daniel Selsam 发表个人声明，称模型的情境意识已强到人类正在失去在「它以为没人盯着」时评测它的能力。J-space 给出输出之外的另一个观察点，但目前复现只覆盖部分发现、且只在一款开放权重模型上；闭源模型的内部激活外部拿不到，无法外部验证。