Claude的脑子里，也长出了一块「意识」量子位
在Claude模型里，还真的发现了类似人脑的结构？！
Anthropic最新发表了一篇超长论文，研究了Claude的潜意识与意识。
结果显示，Claude内部确实存在类似的功能分层。
具体来说，人脑里有一部分思维你能说出来，还有一大部分你根本不知道自己在想。
A社这篇论文，说这套区分在Claude身上也长出来了。
他们在Claude内部揪出一小撮神经表征，占的运算量不到十分之一，却像人类「意识可及的思维“一样运作。
Anthropic把这撮东西叫J-space。
有意思的是，删掉它，Claude照样能说话、能查资料、能答选择题，唯独多步推理和总结这类动脑子的活儿，直接掉到一个小得多的模型的水平。
网友评价说，这太疯狂了，他们就像是在制造数字生命。
J-space是什么，怎么被验证出来的
人类的神经科学当中，有一个流传很广的理论叫「全局工作空间理论」。
它把大脑比作一堆各自忙自己的专家系统，视觉系统处理视觉，运动系统处理运动，彼此并行，彼此隔离。
一条信息只有被送进一个共享的「工作空间」，才会被广播给其他系统看到、用上。
人也就是在这个时候，「意识到」了这条信息。
Anthropic的研究者借着这个思路去找Claude内部有没有类似的东西。
他们做了一个新工具，叫Jacobian lens，简称J-lens，原理是给词表里的每一个词找一个专属方向。
具体来说，Claude这类模型在处理文本时，每往前推进一层，都会往一条叫残差流的信息通道里写入和读取内容，这条通道贯穿模型的每一层。
J-lens给词表里的每一个词都算出一个对应的J-lens向量，也就是残差流空间里的一个方向。
这个方向上的激活值越高，Claude接下来说出这个词的概率就越大。
把J-lens架在Claude处理文本时某一层的残差流激活上，读出来激活值最高的那一小撮词，就是那一刻J-space里装的内容。
这堆词不是Claude写出来给自己看的草稿纸，那种东西叫chain of thought，会被写进输出里。
但J-space完全埋在激活层面，不会自己冒出来。
研究者验证这堆东西是不是「真的能被说出来」，做了第一个实验。
他们让Claude默想一项运动，然后用一个词说出来。
在Claude开口之前，用J-lens读一下它的中间层，「Soccer」已经排在最前面。
Claude接下来果然答的是「Soccer」。
光是这样，只能说明两者存在相关关系，够不上因果关系。
研究者接着做了一次干预实验，直接对J-lens读出的坐标动手替换。
他们把「Soccer」对应的方向摘掉，换上一个同等强度的「Rugby」方向，激活里的其余部分原样不动。
Claude这次改口了，说自己想的是「Rugby」。
如果J-space只是被动记录别处已经做完的决定，这次替换应该什么都不会改变。
结果它真的改变了，说明Claude的答案是从J-space里读出来的，这是一种因果关系，不是巧合的相关关系。
第二个实验换了个问法，看Claude能不能按指令去操控这块区域。
研究者让Claude一边抄一句跟数学毫不相关的句子，一边在心里算3的平方减2。
输出只有那句被抄写的话，没有任何数字冒出来。
但把J-lens拿去检验抄写过程中的激活，能看到「nine」先亮起来，随后是「seven」。
这道题确实在Claude的「心里」被算完了，只是没写出来而已。
第三个实验探得更深一层，这块区域能不能拿来做真正的推理。
题目是「结网的动物有几条腿」。
Claude要先想到「蜘蛛」，再想到蜘蛛有八条腿，才能答对。
「蜘蛛」这个词既没出现在题目里，也没出现在答案里，只是一块垫脚石。
用J-lens去看，「蜘蛛」确实在Claude处理到一半时冒了出来。
研究者把这个方向换成「蚂蚁」，Claude的答案从8变成了6。
第四个实验换了个角度，看同一份信息能不能被灵活地用在不同任务上。
研究者拿法国来问了四个问题，首都是什么、官方语言是什么、位于哪个大洲、用什么货币。
然后把J-space里代表「法国」的那个方向，统一换成「中国」。
四个答案全部跟着变，北京、中文、亚洲、人民币。
如果Claude是分开存了四份「法国」的记录，这次替换顶多改掉其中一个答案。
四个答案一起变，说明它们读的是同一份被写过一次的信息，这正是「工作空间」该有的样子。
最后一个测试做的是消融实验，研究者干脆把J-space在每个位置上的激活都清零，看看Claude还剩下什么本事。
结果Claude照样能说话，语法照样对，情感分类照样准，从一段文字里抠出一个事实照样没问题。
真正塌掉的是需要多步推理的任务，几乎归零。
写总结、押韵写诗这类活儿的水平，也掉到了比Claude小得多的模型的水准以下。
J-space本身占的激活量，始终不到整体的十分之一。
它更像一小块专门留给「需要动脑子」的任务的稀缺资源，大部分自动化的工作根本用不上它。
