辛顿认错：我当年想得太简单AI科技大本营
在最近的一场 MIT 讲座里，AI 教父杰弗里·辛顿（Geoffrey Hinton）主动提起了自己广受关注的那个“翻车”旧账：2016 年，他曾笃定地预测“五年内 AI 就会读取所有的医学扫描图，因而我们不再需要培养放射科医生来读图”。但这次他很坦率地在台上承认，自己确实把时间线和放射科工作的复杂性想简单了。
这种坦率，源于他对硅基和碳基生命底层机制的直白观察。在辛顿眼里，大模型绝不是什么无意义的“高级自动填充”。他用了一套极其平实的“乐高积木与手套”比喻，去解释词汇如何在多层神经网络中转换成高维特征向量 。
人类大脑在理解语言时，也是在进行一模一样的向量对齐。但相比人类用低效语言进行的知识“蒸馏”（每秒只有几十个比特），不同硬件运行的数字模型可以直接共享数万亿比特的梯度信息，实现真正的知识永生。而这种进化的主导权，正被追求短期利润的大厂竞争绑架。
以下是辛顿在这次讲座中，基于物理与计算的第一性原理拆解的几个核心行业直觉：
说大模型只是一个没有理解能力的“高级复读机”，纯属疯话。传统的自动填充只是死记硬背高频词。但大语言模型在处理问题时，需要通过神经网络将词汇转换为相互契合的特征向量。这和人类大脑理解语言的机制一模一样，你必须先真正理解一个问题，才有可能给出正确的回答。
大模型的“胡说八道”并不是故障，人类的大脑其实每天也在进行一模一样的瞎编。人类的记忆根本不是存在文件柜里的静态记录，而是基于神经元连接、在调用时脑补出来的产物。时间久了，我们就会像大模型一样，基于过往经验重构出听起来极其合理、但实际上根本没发生过的会议和对话细节。
硅基智能的共享速度比生物演化（人际交流）快数十亿倍，它们能够实现真正的知识不朽。人类之间的知识传递是通过语言进行的极其低效的“蒸馏”，每秒仅能传输几十个比特的信息，且肉体死亡后知识便会归零。而数字智能可以直接共享万亿比特的梯度信息，通过不同硬件无限复刻。
关机键根本形同虚设，AI 能轻而易举地操纵那个“去按开关的人”。只要我们允许超级智能创建“子目标”，它就会自发推导出获取控制权和生存的本能。面对智力远超人类的实体，它不需要操纵任何物理杠杆，仅靠语言和心理策略就能轻松阻止人类去按下切断电源的开关。
2016 年关于“五年内不需要培养放射科医生来读图”的预测，确实彻底翻车了。这一预测之所以破灭，一方面是因为 AI 在医学图像识别上的进展比预期要慢，另一方面是因为他当时忽略了放射科其他工作的复杂性。此外，一旦有律师介入，判定新技术失误的法律责任成本，要远高于由于保守不采用新技术而导致患者死亡的责任成本，这极大阻碍了技术落地。
以下为 Hinton 的演讲全文：
今天我要做一场面向公众的演讲，不会讲得太技术化。
如果有些技术背景很强的朋友原本是想来听一些全新的技术细节，那我先说声抱歉。今天你们听不到这些。
AI 危险的方式有很多。其中有些是对 AI 的蓄意滥用，比如网络攻击、致命性的 AI 武器。
还有定向虚假信息传播。我认为 DOGE 本质上就是这么回事。我不觉得 DOGE 是为了让政府更高效，而是为了获取美国公民的信息——当然，这只是我个人的阴谋论。
还有 AI 生成的儿童虐待内容，也有一些 AI 工具能让普通人制造出恶性病毒。
我觉得这非常可怕。
还有一些是意外副作用，也就是人们并非故意作恶，但我相信，它们会制造大规模失业。
有些经济学家不同意，这依然是一个悬而未决的问题。
过去很多技术并没有造成大规模失业，但我认为这次不一样。谢谢。
还有，为了从 Meta 或 YouTube 那里更快获得刺激，人们的注意力持续时间正在缩短。
还有一些系统，因为测试做得不充分，会鼓励人自杀。今天这些我都不讲。
我要讲的是更长期的“生存性威胁”（existential threat）。所谓“生存性”，是说它可能把人类整个抹掉。
在未来 20 年内，我们会拥有超级智能 AI，也就是在几乎所有智力任务上都比我们更强的 AI。
但没有人知道，该如何阻止它让我们变得无关紧要，甚至灭绝。
我的想法是：我希望公众能够理解这种威胁，而不要把它只当作科幻小说。
而要做到这一点，你必须先稍微理解一点 AI 是怎么工作的。
所以，这场演讲的前半部分——也许还不止一半——我会先向普通公众解释 AI 的工作原理，并解释它在哪些方面很像我们，哪些方面又和我们极不一样。
回到 20 世纪 50 年代，当时关于如何制造一个智能系统，有两种范式。
其中一派，也就是相信符号主义 AI（symbolic AI）的人，认为智能的本质是推理，而推理要靠某种逻辑来完成。
所以他们认为，最该做的，是想办法用符号规则去操作符号表达式，从旧前提出发推导出新结论。
他们觉得，学习可以先放一放；我们首先得弄清楚，知识是如何在符号表达式中被表示出来的。
另一种思路则受生物学启发。这正是图灵和冯·诺依曼都相信的路径。你总不能说他们不懂逻辑。
你可以这么说我，但不能这么说他们。
在这种思路里，智能的本质，是学习神经网络中连接强度的能力。推理可以先等等；我们得先理解学习是怎么发生的。
词语长着细长的手臂：我们是如何理解一句话的
现在，带着这两种框架，我们来想一想：一个词的意义究竟是什么？这里有两种非常不同的理论。
一种来自符号主义 AI，另一种来自心理学。表面上看，它们完全不一样。
符号主义 AI 的理论是：一个词的意义，来自它在命题或句子中与其他词之间的关系。
这套理论由来已久。大多数语言学家也都相信这一点。
如果要把这种意义表达出来，你大概需要类似“关系图”的东西——里面有表示词或词组的节点，还有表示它们彼此关系的连线。
而在心理学里，曾经有一种非常不同的意义模型：一个词的意义，只是一大组语义特征——也包括句法特征。因此，像“Tuesday”和“Wednesday”这样意义相近的词，会拥有非常相似的特征集合；而像“Tuesday”和“although”这样意义相差很大的词，它们的特征集合就会非常不同。
1985 年，我意识到，其实可以把这两种看似完全不同的理论统一起来。它们其实只是同一枚硬币的两面。
思路是这样的：你为每个词学习出一组特征，再学习如何让前面所有词的特征去预测下一个词的特征。
这样一来，你也就能预测下一个词。
因此，系统真正存储的，是如何把一个词转换成特征，以及上下文中各个词的特征应当如何相互作用，去预测下一个词的特征。
它存储的只有这些。它并不存储符号表达式，也不存储词序列。
它只存储：上下文中各种词的特征之间，连接强度该是多少。
如果你想生成一句话，你就通过预测下一个词、再下一个词、再下一个词……一直生成下去。所以，所有关系性知识，都存在于这些特征如何相互作用之中。
它不在“被存起来的词串”里。
而我当时建立的那个小模型所展示的是：你可以从词串出发，仅仅通过尝试预测下一个词，就学出这些特征。
反过来，你也可以从这些特征生成词串。
也就是说，只要用反向传播算法去做“预测下一个词”，你就能从一种意义理论，走到另一种意义理论。
接下来的 30 年里，这个理论不断发展。
大约 10 年后，计算机更快了，Yoshua Bengio 证明：你可以用神经网络在真实自然语言中预测下一个词。
我当时用的还只是一个非常简单的玩具例子。
我的例子只有一百多个训练样本，而且只用长度为 3 的词串。
Yoshua Bengio 把这个方法推广到了真实自然语言。再过了大约 10 年，很多计算语言学家开始采用 embeddings——也就是特征向量——来表示词义。
又过了大约 10 年，Google 开发出了 transformer，随后 OpenAI 在此基础上结合谨慎的人类强化学习，让系统表现得更好。
他们向全世界证明：你可以造出一种聊天机器人，几乎你问什么，它都能回答。当然，有时候它会把答案编出来。
不过，人类也会这样。
所以，我认为今天的大语言模型（large language models），本质上就是我 1985 年那个小语言模型的后代。
它们输入的词更多，神经元层数更多，各种上下文词特征之间的相互作用也复杂得多。
但它们理解语言的方式，与人类其实非常相似。
我相信，当人类理解语言时，我们会把词转换成一组彼此契合的特征向量，而这就是“理解”。
所以，你会看到很多人——比如 Chomsky——说 LLM 根本不理解自己在说什么。但他们自己并没有一个关于“人类如何理解”的模型。
事实上，就目前而言，我们手上对“人类如何理解”最好的模型，恰恰就是这些 LLM。
语言学家并没有一个真正能“理解东西”的模型——我是说，那些还没有转向 LLM 阵营的语言学家，那支队伍已经越来越小了。
下面，我想尝试给那些不懂 transformer 的人一个大致的直观模型。
如果你懂 transformer，你会发现这个模型在很多地方都不准确；但你也会看出来，它仍然比那种“理解就是把自然语言字符串翻译成某种无歧义符号表达式”的想法更接近真实。
我的模型是这样的。
如果你有一堆乐高积木，你可以用它搭出任何三维形状。比如，你可以搭一辆保时捷的外形。它的表面当然不会特别……也不会很符合空气动力学。
对此我很抱歉。
但你可以表示“东西在哪里”，而且对于任何三维形状，只要分辨率到位，你都能这么建模。
词就有点像乐高积木，不过有四个重要差别。第一，它们可以用来建模任何事物。
