Anthropic宣布：Claude长出了意识AGIHunt
Anthropic 刚刚发了一篇新研究，标题非常之玄学：《语言模型中的全局工作空间》（A global workspace inlanguage models）。
他们在 Claude 的神经网络里，找到了一小块特殊的区域：Claude能报告它、能控制它、还靠它做多步推理。而网络里其余的绝大部分活动，Claude 自己都「意识」不到。
如果你对神经科学有点了解，大概会立刻联想到一个词：意识可及（conscious access）。
没错，A 社这次就是冲着这个去的。
官方视频的开头打了个比方：把心智想象成一片海洋。
海面上漂着的，是我们的念头：晚饭吃什么、内心独白、脑子里突然蹦出来的画面。而大脑绝大部分的活动，都发生在海面之下的无意识深处：过滤背景噪音、控制呼吸、认出眼前的人和物。
这些你全程无感，但它们一直在跑。
那么问题来了：AI 模型的「脑子」里，会不会也有这样一条海面分界线呢？
Anthropic 的答案是：有，而且他们把它找出来了。
J-space
这块区域被命名为 J-space，J 取自寻找它所用的数学工具：Jacobian（雅可比矩阵）。
它是一小撮特殊的内部神经激活模式。每个模式都对应一个具体的词，但某个模式亮起来，并不代表模型正在说这个词，只代表这个词「在它心上」。
J-space 示意
注意，这跟你熟悉的思维链（chain of thought）完全是两码事。思维链是模型写给自己看的草稿，是显式的文字；而J-space 藏在内部神经激活里，完全无声，模型可以在不写下任何东西的情况下「想」一个概念。
而且，J-space 没人设计、没人编程，是在训练过程中自己涌现出来的。
对比 Claude 的其他内部活动，J-space 有几个独特性质：
• Claude 能报告它。你问 Claude 在想什么，它说出来的就是 J-space 里的内容
• Claude 能按要求控制它。让它想某个东西、或者在心里默默解题，对应模式就会亮起来
• Claude 用它做内部推理。多步问题的中间步骤会依次在里面亮起，哪怕嘴上一个字没提
• 它可以被灵活复用。「France」亮起后，模型可以接着回答首都、货币、所属大洲，全都读的是同一份表征
• 但大部分日常工作不经过它。流利说话、背事实、语法正确，这些都不需要 J-space
这五条性质，恰好对应神经科学里一个很有名的理论：全局工作空间理论（global workspace theory）。
这个理论把大脑描绘成一堆并行工作的专家系统，彼此隔离、各干各的、全程无意识。而一条信息要变得「意识可及」，就得挤进一个很小的共享通道，也就是「工作空间」，再从那里广播给大脑的其他系统取用。
Anthropic 认为，J-space 在 Claude 体内扮演的就是这个角色。
J-lens
那么，这东西是怎么找到的呢？
研究团队的切入点，是人类意识可及思维的一个关键特征：说得出来。一个念头如果是意识可及的，别人问起时你通常能描述它。
他们便造了一把叫 J-lens 的透镜：对 Claude 词表里的每一个词，找出那个「让 Claude在未来某个时刻更可能说出这个词」的内部激活模式。
把透镜对准 Claude 运行中的内部活动，能直接读出一张词表：此刻 J-space 里装着的词。
而 Claude 处理文本要经过几十层网络，把透镜架在不同的层上，还能看着这些无声的词一层层演化。
读出来的东西，远远超出 Claude 正在读写的文本：
六个例子的 J-lens 读数
Claude 读一段没人指出过 bug 的代码，J-space里亮起「ERROR」；读一串蛋白质序列的原始字母，里面亮起这个蛋白质的生物学功能；读一段暗藏提示词注入（promptinjection）的搜索结果，里面亮起「injection」和「fake」。
视频里还演示了一道数学题：给 Claude 一个多步计算，它直接报出答案，中间步骤一个没写。但扫描J-space，能看到它在心里一步步算：先亮起 21，然后 42，最后 49。
这些中间数字没有出现在任何地方，整个计算都发生在 J-space 里。
当然，看到概念在里面亮起，只能算相关性。J-space 可能是答案真正的来源，也可能只是个记分牌，被动记录别处做出的决定。
Anthropic 的验证方式简单粗暴：直接下手改。
他们让 Claude 在心里默想一种运动，然后说出来。在它开口前读 J-lens，看到「Soccer」排在最前，Claude随后果然回答足球。接着他们伸手进神经网络，把「Soccer」模式删掉，原位换上一个同等强度的「Rugby」模式，其他什么都不动。
Claude 张口就说：我刚才想的是橄榄球。
换念头与思维注入
如果 J-space 只是个记分牌，改它应该什么都不会发生。答案跟着编辑走，说明答案是真的从 J-space 里读出来的。
反向实验显示：告诉 Claude「可能有一个念头被注入了你的思维」，然后趁它读题时往 J-space里塞进「lightning」模式。Claude 回答：我检测到了，那个念头是关于闪电的。
换了很多概念，结果都一样。
