拆开Claude大脑也没用：AI黑箱真正的钥匙在哪儿？新智元

「解释的本质，不在于凝视机器本身，而在于审视机器所凝视的世界」。

2026年7月，Anthropic研究团队发表了《A global workspace in language models》，通过名为J透镜的工具在Claude内部识别出一个可被观测、可被干预且具有因果效力的神经活动区域——J-Space。

这一发现之所以引发广泛关注，在于它使研究者得以窥见模型推理过程中的「内心独白」，标志着可解释性研究从对模型行为的解释迈向了对其内部状态的实时观测。

J-Space以认知神经科学的全局工作空间理论为解释框架，将语言模型的推理活动类比于人类意识层面的信息处理，在方法论和认识论层面都构成了重要推进，也为AI安全提供了全新的监控维度。

然而，正因其影响深远，更有必要审慎检视这一进路的内在局限。J-Space研究的根本取向是内在主义的——它将可解释性的核心问题设定为「理解模型内部发生了什么」，试图像神经科学家用fMRI扫描人脑一样，用J-lens扫描语言模型的神经活动。

这一进路预设了可解释性的答案藏在模型「体内」，然而一个模型的输出是否可被理解，不仅取决于其内部状态的可见性，更取决于这些状态与世界中的事态、语义规范以及使用者的认知框架之间的关系。

仅凭观察神经活动来理解模型的话语，就如同仅凭观察一个人的脑电活动来理解他所说的话——我们或许能捕捉到神经关联，却未曾触及话语的意义本身。

除此之外，J-Space借用了全局工作空间理论这一关于意识的理论来解释语言模型，在移植过程中一种微妙的范畴错误悄然发生：功能层面的同构性被误等同于认识论层面的等价性。

模型没有主观经验，J-Space中的激活模式只是数学运算的产物，而非任何意义上的心灵状态。

更深层的问题在于，J-Space研究本质上是一项工程导向的工作，它将「可解释性」窄化为「可观测性」和「可干预性」，然而在更广泛的知识论传统中，「解释」的含义远比此丰富——它涉及将现象纳入更一般的规律框架，涉及提供理由和依据，还涉及对决策正当性的论证。

J-Space能够告诉我们模型「在想什么」，却无法告诉我们模型为什么以这种方式思考，它所依据的「理由」是什么，这些理由在何种意义上是「好的」理由。这些问题的答案不在神经活动模式之中。

上述局限指向一个共同的症结：J-Space乃至整个以神经网络为焦点的可解释性研究，始终将「模型本身」作为解释的唯一对象，问题的起点和终点都是模型。

本文尝试提出一种不同的视角——将可解释性的追问从模型内部转向模型所处理的信息，从神经科学的内部主义进路转向知识论的「信息本体论」进路。

这一转换基于一个简洁的观察：大型语言模型本质上是信息处理器，其输入和输出均为文本，而文本的意义——即我们真正需要解释的东西——并不存在于神经元的激活值中，而存在于这些符号与世界、与知识、与人类实践之间的关系之中。

当一个模型回答「巴黎是法国的首都」，我们需要解释的不仅是模型内部哪个区域被激活了，更是这个陈述在何种知识体系中成立，它以什么为依据，这些依据的可靠性和正当性如何，这个回答与人类已有的地理知识之间是什么关系——这些问题无一能通过扫描神经活动来回答。

因此，本文主张将可解释性问题的核心从「模型如何思考」转向「模型处理了什么样的信息、这些信息具有怎样的本体论地位」，从而将可解释性的对象从模型本身扩展至模型所嵌入的整个信息生态——包括训练数据的结构、知识的表征方式、推理过程中的信息流转，以及输出与外部知识体系的映射关系。

以J-Space为代表的可解释性研究将神经科学范式引入了人工智能领域，其贡献在于使我们得以窥见模型「内部发生了什么」。然而这一进路的内在主义取向、对功能类比的依赖以及工程化视角对「解释」概念的窄化，共同构成了其认识论上的三重局限。

本文认为，要真正推进大语言模型的可解释性问题，需要超越对模型内部状态的凝视，转而从知识论的视角出发，系统考察模型所处理的信息——其来源、结构、表征方式、流转路径及其与外部知识体系的关系——的本体论基础。正是这一视角的转换，构成了本文研究的出发点。

可解释性的哲学地基

「概念无直观则空，直观无概念则盲」。

先抛出一个古老的哲学追问：人类究竟如何理解世界？康德在《纯粹理性批判》中给出了经典回答：他认为人类心灵并非被动接收外界刺激，而是先天配备了十二种「纯粹知性概念」（「十二范畴」）作为认知的形式框架。

康德从人类逻辑判断的十二种形式中推导出这些范畴，将其分为量、质、关系和模态四组：量涉及「多少」，质涉及「是什么样」，关系涉及事物之间的联系，模态涉及存在的方式。

康德的范畴理论本质上是一种关于「可理解性」的本体论承诺：只有能被纳入这十二种范畴框架之下的东西，才能成为知识对象；超出框架的「物自体」永远不可知。这意味着康德意义上的「本体论」不再追问世界「本身是什么」，而是追问「世界对我们呈现为什么」。

这对于AI可解释性的深层启示在于：当我们解释一个语言模型的输出时，真正「可解释」的不是内部神经元的物理激活，而是信息被范畴化、被结构化为可理解知识的过程。神经激活属于物自体层面，模型输出的话语意义则属于现象界层面，只有被置于某种认知结构框架中才能被理解和评判。

本体是AI可解释性的「钥匙」。在分析层面，它提供了一套完备的概念框架来描述模型所处理信息的结构化形态——我们可以追问一个陈述中是否隐含了「实体与偶性」的归属、「因果性」的判断或「模态」的承诺，从而系统描述模型构建了何种知识结构，而非笼统地说「模型似乎理解了因果关系」。

在规范层面，它为可解释性提供了评判标准：若模型内部表征中确实形成了与本体相对应的结构化模式，其输出就具备被理解的基础；若始终无法映射到这些本体之上，则无论输出多么流畅，在认识论意义上都是不可解释的。

以康德范畴作为可解释性的哲学钥匙，并非主张模型必须「拥有」这些范畴——康德的范畴是主体的先天认知条件，而模型则是功能上的实现问题，它可能通过不同的神经计算路径在功能上等价地区分实体性、因果性或模态差异。

关键在于：可解释性不要求模型内在机制透明到每一个权重的程度，而要求我们能够确认模型在信息处理层面所形成的结构是否映射到了人类用以理解世界的范畴框架之上。

从理论到实践：

本体工程与大语言模型的融合

本体论提供的是关于「可理解的结构应当是什么样」的规范性回答，但这一回答本身并不自动转化为可运行的技术系统。本体论若无本体工程的支撑，便只是悬置在空中的概念游戏。

本体工程作为将哲学范畴实例化为可计算、可维护、可追溯的技术实体的实践领域，构成了从理论到应用的必经桥梁。

在人工智能可解释性问题上，本体论与本体工程的关系尤显根本：前者告诉我们应当追问什么样的知识结构，后者则负责在模型、数据和系统之间实际构建起这样的结构。

大语言模型的出现，使本体工程获得了前所未有的发展动能，也反过来提出了全新的工程挑战。传统本体构建依赖领域专家的人工参与，流程漫长、成本高昂，且难以适应知识更新和领域演变的节奏。

大语言模型凭借其从海量文本中提取语义模式和知识关联的能力，正在从根本上重塑本体工程的实践形态。