Hinton这次只回了一个字：会王启隆

过去几年里，AI 教父 Geoffrey Hinton 最常被外界记住的，是他不断对 AI 风险发出警告：离开 Google、公开谈更强模型的危险、提醒人们不要把能力跃迁误当成纯粹的产品升级。

在 3 月加拿大多伦多最新的公开对谈里，他把那条线又往前推了一步。真正让他反复回到的一件事，已经不只是“模型会不会越来越强”，而是：当 AI 开始进入工作、教育、医疗、陪伴关系乃至军事用途时，公司、政府和整套政治系统，到底有没有准备好承接后果。

这也是这场对话最值得看的地方。Hinton 当然还是在解释神经网络、反向传播和语言模型到底怎么工作，也还是会用他熟悉的方式，一层一层把技术讲清楚；但另一边，他说得越来越直白：当主持人 Amber Mac 问他 “AI 会不会拿走我的工作” 时，Hinton 只回了一个词：“会。”

而在那个短得几乎像玩笑的回答背后，他真正展开的，是一整套更难回答的问题，并为新时代 AI 的运作机制进行了一次堪称“知识扫盲”的详细讲解。

“我以前很喜欢 ChatGPT，但我准备转去用 Claude，因为 Sam Altman 在道德上的弹性，对我来说有点太大了。”

在未来二十年内，通用型人工智能很可能可以胜任几乎所有人类在电脑上完成的智力工作。

在医疗和教育这类“弹性市场”里，AI 更可能带来的是服务能力的扩张，而不是简单取代。

很多人以为现在的大模型还是在“预测下一个词”，但早就不是了。今天的系统更像我们生成语言的方式。

理解一句话这件事，实际上更像是蛋白质折叠，而不是把一种语言翻译成另一种内部逻辑语言。

对未经充分测试就推向社会的聊天机器人产品，应当承担明确的法律责任。

中国可能会把这件事管理得更好。他们至少会去担心那些工人会怎么样，他们对这件事的关注，可能比这里的大型科技公司强得多。

以下是这场对谈的翻译。

不再使用 ChatGPT

主持人：我想先从一个稍早的话题问起：你当初为什么会来到加拿大？我们 2019 年也聊过这个问题。到底是什么把你带到了这个国家？

Geoffrey Hinton：我当时在美国的卡内基梅隆大学工作，研究进展非常顺利。但我对里根政府针对尼加拉瓜的政策感到很不开心。我认为在尼加拉瓜港口布雷是一件很糟糕的事，而我在匹兹堡的很多同事却觉得这完全合理，因为那是“美国的半球”，美国就该管。我觉得这很可怕。谁能想到后来会变成这样。

主持人：就像我说的，这些年变化太大了。我们当年还聊过 AI 战争。我要读一段你在 2019 年说过的话：你当时说，“我觉得这很可怕，自主武器已经近在眼前。” 其实在很多人开始公开谈这些威胁之前，你就已经在发出警告了。

Geoffrey Hinton：其实更早在发出警告的人是 Stuart Russell。所以在 AI 安全这件事上，我算是来得比较晚。我的很多同事早在十多年前就开始认真思考这个问题了。我只是运气比较好，大家愿意听我说话，但我并不是最早那批人。

主持人：那你怎么看 2026 年的 AI 安全处境？显然你仍然有很多担忧，而且现在很多人都已经在现实中看到这些问题开始发生了。

Geoffrey Hinton：是的。就拿最近的事情来说，我们已经看到，一家大型科技公司其实确实有一些道德原则，而且还是相对温和的那种原则。他们不希望自己的 AI 被拿去做对美国人的大规模监控——至少从我看来，他们主要是不希望它被拿来监控美国人。他们也不希望它被用于那种可以自行决定杀人的武器，这一点其实很难反对。

但国防部门——就是那位“很和善”的 Pete Hegseth——希望可以随意使用这些系统。Anthropic 说了不。于是现在他们开始冲着 Anthropic 去了。那个周四，OpenAI 还说他们支持 Anthropic；到了周五，他们就把 Anthropic 的生意接走了。

所以我现在已经不再用 ChatGPT 了。我以前很喜欢 ChatGPT，但我准备转去用 Claude，因为 Sam Altman 在道德上的弹性，对我来说有点太大了。

真正卡住 AI 进医院的，不只是技术，而是制度

主持人：我想聊聊你过去做过的一些预测。很多长期关注你的人都知道，你对未来有不少判断。你今天在台下跟我也提到过一个你很想聊的话题：2016 年，你曾经预测过，五年之内我们就不再需要放射科医生了。

Geoffrey Hinton：是的。我当时只是在一家医院做讲座，并没有意识到这些话会传播到全球。那时 AI 在图像识别上的能力进步非常快，所以在我看来，只就“解读医学影像”这件事而言，大约五年内 AI 会比人类更强，这似乎是显而易见的。

这个判断后来证明还是太乐观了。现在在很多影像任务上，AI 已经和人类相当了；在一些任务上，甚至已经优于人类，而且这种情况并不少见。

但后来真正发生的事情是：AI 并没有简单地取代人类去解读影像，而是人类开始和 AI 一起工作。现在已经有很多不同的 AI 系统获得了批准，用于医学影像解读。同时，影像解读的总量也在增加。

所以我当时错了三件事。

第一，我把时间尺度看短了，大概差了两倍，也可能三倍。当然，如果你只差了两三倍，物理学家一般不会太在意。

第二，我低估了医疗行业的保守程度。说实话，你很难夸大这个行业到底有多保守。比如说，如果一个 AI 因为漏诊癌症而导致一个人死亡，人们会觉得那太糟糕了；但如果因为没有使用 AI，结果有几百个人死了，这件事却往往被忽略，好像不算数一样。我觉得这是非常不对称的决策方式。他们应该把“因为没有用 AI 而死亡的人”也计算进去。

第三，我低估了医疗的“弹性市场”特征。在很多行业里，一旦 AI 能把某件事做得和人一样好、或者更好，人就会失业。但在医疗里，我们几乎可以吸收无穷多的新增供给，尤其是当人老了以后。就拿我自己来说，我一个人都可以消耗十个全职医生的时间。

所以一旦有了 AI，我们可能得到的是更多医疗服务，而不是医生失业。如果你让医生的效率提高十倍，那结果很可能只是每个人都获得十倍的医疗服务，而这会是一件好事。所以你要先判断，这个市场到底是不是弹性的。

主持人：我很高兴你提到这个，因为我确实也想继续谈威胁以外的另一面。你之前和我聊到过，像医疗这样的弹性市场，其实会让 AI 带来很大的好处。你刚才也提到，医生群体常常比较保守。但就加拿大现在的情况而言，我们其实非常需要 AI 来帮助填补医疗缺口。你觉得我们还要多久，才能在这些场景里真正拥抱 AI？

Geoffrey Hinton：我觉得这很大程度上取决于政治。

我最近听说过一个案例：有家公司开发了一套系统，你只要用 iPhone 或 Android 拍下皮肤上的斑点，把照片上传给它，它就能告诉你那是黑色素瘤还是别的什么问题。它在这类判断上的水平，和优秀的人类医生差不多。所以它完全可以作为前端分诊工具，帮你决定是否应该去看皮肤科医生。它也可以在医院里使用。

但这家公司现在已经解散了，陷入债务和停摆状态。原因之一是，他们无法在安大略真正把这项服务落地，因为安大略政府没有为它设立相应的医疗收费代码。医院于是就不愿意采购，因为他们没法对一次使用收取 3 到 5 美元的费用。类似的事情，我想其实不少。

主持人：这听起来很令人沮丧。除了医疗之外，你还看到哪些行业也属于这种弹性市场，因此更有机会从 AI 中受益？

Geoffrey Hinton：有，教育。我们每个人都可以接受更多教育。比如我自己就很想多学一点物理学，挺不好意思的是我懂得并不多。所以在教育这件事上，我觉得 AI 会非常好。它现在还不算成熟，还没有真正成为一个很好的导师，但它正在往那个方向发展。

AI 进入教育，不该先被理解成“作弊”

主持人：我们就多谈一点教育吧。因为我猜现场也会有人想到，关于 AI 和教育，很多新闻标题都是“学校禁用 AI”“孩子不能用 AI”。你能不能多展开一点？

Geoffrey Hinton：我们已经知道，如果你有一个私人教师，你学习的速度大约会是课堂学习的两倍。因为课堂上很大一部分时间，其实是老师在“广播模式”里说话。那不是一对一的教学，因为我们负担不起。一位老师在私校要教二十个孩子，在公立学校可能要教三十五个孩子。

而孩子们实际上听到的是：别人的问题的答案，而不是自己刚刚提出的问题。

但我和聊天机器人互动时，一旦我对某件事产生好奇，我立刻就可以问它，而它也会立刻回答我。因为那正是我想知道的内容，所以我就更容易真正吸收这些信息。更多教育本来就应该是这样：让人顺着自己的好奇心往前走。

老师当然也能做到这一点，一对一教学时尤其有效，但老师的数量不够。AI 的数量则会足够多。所以我认为，AI 会让教育变得高效得多，尤其是对像我这样有一点 ADHD 倾向的人来说——如果别人正在讲一个我根本不感兴趣的话题，我会很难集中注意力。

当然，这还需要时间。AI 现在还没有真正擅长理解一个学生到底误解了什么。

主持人：我刚才想确认一下，你是不是用了一个词，说 AI 在教育这件事上“还比较慢”？意思是说，它还没有真正准备好成为那种理想的教育工具？

Geoffrey Hinton：对，它还没有完全到位。它还不能真正完整地理解学生到底哪里没懂。但最终它会做到的，因为它会获得大量训练数据。

主持人：那如果有人说，孩子或者学生使用 AI 就是在作弊，你会怎么回应？

Geoffrey Hinton：那学生使用口袋计算器也是作弊。

主持人：这倒是个很公平的回答。

Geoffrey Hinton：未来会是“人和 AI 一起工作”的世界。所以老师真正应该考察的，不是学生能不能彻底脱离 AI 完成所有事情，而是学生能不能和 AI 一起把一件事做好。至少在接下来的几年里，现实会是这样。再往后，也许 AI 会接管更多工作，但至少未来几年，重点仍然是“人如何与 AI 协作”，而那也应该成为教育评估的一部分。

“AI 会不会拿走工作？”

主持人：说到这里，其实也就自然引出了下一个问题。很多人一提到 AI，第一个会问我的就是：它会不会拿走我的工作？这个问题很直接，但也确实是很多加拿大人现在最在意的事。你会怎么回答？

Geoffrey Hinton：会。

主持人：好，我们今晚可以到这里结束了。