Anthropic 这篇 Jacobian Lens / Global Workspace 论文 很容易被社交媒体读成”LLM 有意识了”。我的理解几乎相反：它真正重要的地方，恰恰是把一个容易滑向玄学的问题，重新拉回到可以测量、可以干预、可以复现实验的工程对象上。
论文没有证明模型有主观体验。Anthropic 配套的 external commentary 也把 functional access 和 phenomenal consciousness 区分开来。论文提供证据支持的是另一件更具体、也更有用的事：在大模型内部，有一组特权方向承载着那些”可以被说出来，也可以被拿来继续推理”的概念，而模型的另一部分计算并不读取它们。作者把这组方向撑起的结构称为 J-space。
Jacobian Lens 是怎么读的
名字里的 Jacobian 不是修辞。对每一层 ，作者计算一个平均雅可比矩阵——最终层输出对该层残差流的偏导，在源位置、所有后续位置、以及约一千条预训练分布的 prompt 上取期望。用这个矩阵变换某个激活，再归一化、过 unembedding，就得到一串排序后的词表 token。
这串 token 的含义很精确：不是”这个激活现在意味着什么”，而是”带着这个激活，模型倾向于在未来某处说出什么”。 取期望这一步是关键，它捕捉的是跨语境的倾向，而不是当下语境的特定用法。这也正是它对 logit lens 的修正——后者默认各层共享同一套坐标，而这个假设是错的。
J-space 则被定义为这些 J-lens 向量的稀疏非负组合：每层有超过五万个 J-lens 向量挤在 维空间里，严重超完备，每个位置典型只激活 10 到 25 个。它出现在第 38 层前后（约模型深度的三分之一处），到第 92 层左右消失。
那这不就是”中间层在操纵词汇概念”吗
读到这里，一个合理的怀疑是：所以 Anthropic 的研究员惊讶地发现，中间层在做一些与输入输出相关的、操纵词汇概念的计算？这难道不是显然的吗？
这个怀疑是健康的，而且我认为论文里最醒目的那组实验——“改写 J-space 会改变模型的报告”——确实驳不倒它，甚至有循环论证的嫌疑。J-lens 向量 的定义，就是”让模型倾向于说出 French 这个 token 的方向”。那么把 换成 、观察到模型说出了 “French”，这几乎是定义的展开。88% 的成功率听起来很硬，但它测量的可能只是同义反复。
顺带纠正一个容易望文生义的地方：J-space 不是”一小块子空间”。每层五万多个 J-lens 向量张成的其实是整个 空间。那个”不到 10% 激活方差”的数字，说的是稀疏非负分解（–）之后那个分量的占比。所以结构是一族锥的并集，特权性来自稀疏性约束，而不来自维度。
真正让这篇论文不平凡的，是一个离解——而且必须两半合起来看才有内容。
把西班牙语和法语的 J-lens 向量对调：模型做灵活推断的结果跟着变了（这门语言的著名作家是谁、这句话怎么翻译）——这是下游计算被改变，不是循环论证；但它的文本续写没变，异常检测也没变。
后半句才是要害。续写正是未来言语输出本身。如果这块空间的性质只是”与未来输出对齐”，它没有理由改得动”这是什么语言”的回答，却改不动模型接下来用哪种语言写字。字符计数任务里也一样：显式计数和需要中间值的计算被打乱了，而依赖同一信息的换行排版行为纹丝不动。
所以模型内部至少有两条并行路径，共享同一份信息，却读着不同的表示，只有其中一条是可报告、可调动、可干预的。这不是训练目标能直接推出来的，甚至有点反直觉——它意味着模型”说出的想法”和”实际执行的计算”可以在结构上分离。
该保留多少怀疑
论文自己列了不少限制：J-lens 是个不完美的工具，只近似地捕捉工作区结构；它只能读出对应单个词表 token 的概念，而很多重要概念是多 token 的；模型里没有神经工作空间理论要求的那种尖锐的、竞争性的 ignition；也看不到明确的封装式输入处理模块。作者明确说，他们不主张语言模型复现了 GWT 描述的完整架构。
外部的批评更直接。Neel Nanda 在书评里指出，J-lens 提供的是假设生成，不是假设验证——会有不少假阳性，也会漏掉概念；而由于它本质上是个线性近似，误差在因果干预里的影响会比在纯观察里更严重（你以为你只改了一个概念，其实还顺手注入了噪声）。他对 global workspace 这个类比本身也不买账，认为那是整篇论文里最不有趣的主张。
我想补一条论文和书评都没重点谈的：这个现象几乎肯定不是 Transformer 独有的，而作者没有去找。 全文只在 Qwen 3.6 27B 上复现了一次，自陈结构”类似但没那么干净”。方法要移植到别的架构，需要一个替代 unembedding 的输出基——对分类器来说 logit 基就够用了。于是问题可以直接改写成：ResNet 的中间层里，是否也存在一组稀疏的、低方差的、对类别判断有特权因果作用的方向？这个实验做得了，没人做。
RNN 上的版本尤其关键，因为论文自己承认模型里没有 GWT 要求的递归反馈，也看不到尖锐的、竞争性的 ignition——所谓”广播”只发生在前馈深度上。换句话说，Transformer 恰恰是最不该长出 workspace 的架构。在一个真有递归的网络里，这个类比要么第一次变得名副其实，要么彻底垮掉。论文没做这件事，却先借了 Baars 的名字。
剥掉 GWT 的外衣，剩下的东西反而更硬：一个能把中间层表示投影到词表上的读数工具，一个关于稀疏可言语化分量只占很小方差的定量结论，以及一组说明”报告路径与执行路径可分离”的干预实验。这三样都不需要意识这个词来成立。
它真正改变了什么
过去我们看模型，要么看输入输出，要么看单个神经元或 SAE feature。前者太外部，后者太碎。J-space 介于两者之间：它不是完整的心智，也不是全部计算，但它像是模型内部那些可报告、可调动、可复用概念的公共接口。
所以”模型在想什么”这个问题，现在多了一层可操作的含义。不是问模型有没有感受，而是问：哪些内部表示能被模型报告？哪些能被指令调动？哪些参与了未说出口的中间推理？哪些被改写后会改变答案——又有哪些改写了也没用？
最后这个问号，才是这篇论文真正的贡献。
参考
- Wes Gurnee et al., “Verbalizable Representations Form a Global Workspace in Language Models”, Transformer Circuits Thread, 2026.
- Anthropic, Jacobian Lens reference implementation.
- Neuronpedia, Interactive Jacobian Lens demo.
- Patrick Butlin, Derek Shiller, Dillon Plunkett, Robert Long, External commentary for global workspace paper, 2026.
- Neel Nanda, “A Review of Anthropic’s Global Workspace Paper”, LessWrong, 2026.