辛顿：硅谷最大的幻想，人类永远是老板AI思想者

杰弗里·辛顿——2024年诺贝尔物理学奖得主、现代深度学习最重要的奠基者之一——最近反复追问的一个问题：

如果AI真的比人类聪明很多，我们凭什么相信，它还会甘愿一直做一个听话的“超级助理”？

在最新一次接受Nextfin的访谈中，辛顿更加坚信心中的答案：一个“婴儿和母亲”的模型。

硅谷喜欢的未来：AI越来越强，人类永远做老板

今天几乎所有“AI Agent改变企业”的故事，都有一幅相似的画面。

CEO还是CEO。

管理者还是管理者。

AI只是变成一个极其聪明、永不疲倦、随叫随到的执行者。

辛顿在视频里拿《星际迷航》举例。

舰长只要说一句：

“Make it so——把它搞定。”

下面的人把复杂工作做完，舰长继续拥有最终权力和荣耀。

很多人想象超级AI时，也把这种组织关系原封不动地保留下来：

AI可能比你更懂技术、更懂市场、更会规划，甚至一次能处理你无法理解的上千个变量。

但你依然坐在老板椅上。

你说“做”，它就做。

辛顿觉得，这里面藏着一个未经证明、却几乎没人认真质疑的假设：能力可以无限上升，但权力关系永远不变。

辛顿反过来问：弱者凭什么长期控制强者？

辛顿没有用复杂术语回答。

他只问了一个很朴素的问题：

现实世界里，我们见过多少“能力明显更弱的一方”，长期控制“能力明显更强的一方”？

他想来想去，只找到一个接近的例子。

婴儿，和母亲。

一个刚出生的婴儿什么都不会。

不会赚钱，不会规划，不会独立行动，连语言都没有。

母亲在几乎所有能力上都远远更强。

可凌晨三点，只要孩子哭了，真正改变行为的是谁？

“我所知道的唯一例子，是婴儿控制母亲。”——辛顿

当然，他这里说的“控制”，并不是婴儿拥有权力。

真正起作用的是另一件事：保护孩子，已经被写进了母亲自己的动机系统。

所以，他想解决的不是“让AI听话”，而是“让AI在乎”

婴儿为什么能影响母亲？

不是因为母亲每天收到一条系统提示：

“你必须遵守婴儿的一切指令。”

而是漫长进化，把一整套照护机制写进了人类。

婴儿哭泣会让母亲难受。

保护孩子会带来奖励。

孩子是否安全，本身就进入了母亲的重要目标。

辛顿由此提出一个完全不同的AI安全框架：

如果未来真的出现远超人类的系统，也许不能只依赖：

“它必须服从我们。”

“能不能让它把人类福祉放进自己稳定、长期的目标里？”

这背后其实是两种完全不同的安全观。

第一种是：它想做坏事，但我们有办法制止。

第二种是：它即便有能力摆脱控制，也根本不愿意伤害我们。

辛顿真正想改变的，是AI安全问题的提问方式：从“我们怎样永远控制它”，变成“它为什么会愿意保护我们”。

但这里一定要踩刹车：辛顿自己都说，这不是一个好答案

“让AI像母亲一样爱护人类。”

这句话很适合做标题，也很容易被误读成：AI教父已经找到了超级智能安全方案。

事实恰恰相反。

2026年Ewan Lecture里，辛顿再次完整讲到“母婴模型”。

讲完以后，他自己补了一句：

“这是我目前能想到的最好建议，而且它并不是一个很好的建议。”

这句补充非常重要。

因为辛顿不是在宣布问题解决。

他是在承认：我们甚至还不知道，怎样把一种足够稳定、不会被系统自己轻易删除的“关怀人类”动机工程化进AI。

而且还有第二层难题。

就算AI真的“爱人类”，谁来定义什么叫“对人类好”？

一个极度关心安全的AI，会不会为了减少交通事故而禁止人开车？

会不会为了减少疾病而限制人的生活选择？

所以，“让AI关心人类”不是问题的终点。它只是把对齐问题推进到更深的一层：人类真正珍视的，不只有生存，还有自由、多样性、尊严，以及自己犯错的权利。

更聪明，就一定会夺权吗？这仍然是一个有争议的前提

辛顿的论证成立，需要一个重要前提：

未来AI不只是“回答问题比人类强”。

它还拥有强规划、长期行动、工具调用、资源调度，甚至持续修改自身的能力。

如果一个系统只是不会主动行动的计算器，它再聪明，也不等于掌握权力。

所以，“AI更聪明，因此必然夺取人类控制权”并不是今天已经被证明的科学定律。

真正有争议的是另一件事：

当AI越来越Agent化，能够自主拆任务、调用软件、写代码、执行长流程时，它是否会为了完成目标而自然形成“保护自己、获得更多权限、避免被关闭”等工具性目标？

辛顿显然对这种可能性更担心。但它仍然属于未来风险判断，不是对今天大模型状态的描述。

对今天真正有用的提醒：别把“超级助理”当成永恒关系

对普通人来说，“超级智能母亲”看起来很遥远。

但辛顿的提醒，其实已经能落到今天。

现在的AI当然主要还是工具。

但它正在获得越来越多过去属于“行动者”的能力：

长时间任务。

当这些能力叠加，企业需要讨论的，就不只是“它能不能把任务做完”。

它在优化什么？

什么事情绝不能为了效率牺牲？

哪些最终决定必须由人承担责任？

这比“给每个员工配一个AI助理”更难，却也更接近真正的AI组织设计。

最后：AI安全真正难的，可能是承认“控制”不是唯一答案

辛顿这段视频最抓眼球的，是“母亲和婴儿”。

但真正值得留下的，不是这个比喻。

而是它背后的那个问题：

如果有一天，人类不再是系统里最聪明的一方，我们还能继续用“老板管理下属”的方式理解AI吗？

今天没人知道答案。

辛顿也不知道。

他提出的“母婴模型”，甚至被他自己评价为“不是一个很好的建议”。

但也正因为如此，这个问题值得现在讨论。

如果未来真出现能力远超人类的系统，最危险的时刻也许不是：

“我们突然发现控制不了它。”

而是更早以前：

“我们一直默认自己永远能控制它，所以从没认真研究过第二种关系。”

也许真正安全的超级智能，不是一个永远跪在主人面前的天才奴仆，而是一个比我们强得多，却仍然把“人类过得好”视为重要目标的系统。

最后想问你：

如果未来AI真的比人类聪明得多，你更能接受哪一种关系？

A．AI永远服从人类，但我们必须一直有能力控制它。

B．AI拥有更强自主性，但它真正关心并保护人类。

欢迎把答案和理由留在评论区。这个问题现在没有标准答案，但它可能比“下一个模型多强”更值得提前想。