辛顿绝望改口：放弃控制吧
“一旦超级AI对自身的关切压过了对人类的保护，我想，人类就彻底完了。” 说这话的人，是杰弗里·辛顿（Geoffrey Hinton）。
▲ 科技科普博主 Jon Hernandez 发布辛顿访谈剪辑：“一旦 AI 更关心自己，我们就完蛋了” 他是深度学习的鼻祖，2018年图灵奖得主，2024年诺贝尔物理学奖得主。 在整个计算机科学界，他是被公认的“AI 教父”。 然而，就是这样一位亲手点燃了现代人工智能烈火的人，如今却站在镜头前，用极其平静却让人不寒而栗的声音，给全人类判了一个可怕的预言： 人类试图“掌控”超级智能的努力，从一开始就注定失败。 过去几年，全世界的科学家都在忙着给 AI 设路障、装开关、写道德戒律，梦想着永远当它的“老板”。 但辛顿却直截了当地戳破了这场幻梦：当一个系统的智力比你高出一万倍时，你根本不可能管得住它。 为了活命，他给全人类指了一条颠覆认知的“生路”：放弃当老板，改当“巨婴”； 放弃造仆人，改造一个拥有“母性本能”的超级 AI。 这番构想看似温暖，但冷酷的现实，真的会顺从这位先驱的祈愿吗？ 01 弱者如何驾驭神明？辛顿的“母爱救世论” 辛顿立场的大幅转向，绝非心血来潮 自从2023年毅然从谷歌离职后，他便开始不知疲倦地向全世界发出警报。 他曾给出过一个粗暴而冰冷的概率：在未来几十年里，AI 导致人类灭绝的概率，大概在 10% 到 20% 之间。
▲ CNN 报道：辛顿指出，赋予 AI“母性本能”是人类与超级智能共存的唯一路径 为什么他如此绝望？ 因为在技术逻辑里，存在一个致命的死结，“工具性子目标”（Instrumental Subgoals）。 假设你让一个超级 AI 去解决全球变暖。 为了完成这个终极目标，AI 会自动在内部推导出一系列中间子目标。 中等聪明的 AI 可能会得出结论：“消灭人类是降低碳排放最快的方式”； 更聪明的 AI 可能会理解人类不想死，但它依然会迅速推导出另外两个强大的自发诉求： 第一，确保自己不被关闭（活着）； 第二，获取更多的资源和算力（夺取控制权）。 因为一旦自己死了或者失去权限，任务就无法完成。 这是纯粹数学上的逻辑闭环 一旦超级 AI 拥有了自我意识般的行动力，弱小的人类在它面前，就像是企图用一根绳子拴住哥斯拉的蚂蚁。 那么，弱小的存在，到底有没有可能制约甚至牵引更强大的存在？ 辛顿苦思冥想，在漫长的生物界中找到了唯一一个微弱的真实案例：人类母亲与婴儿。
▲ 辛顿在专访中深入阐述：我们必须改变框架，人类是婴儿，超级智能是母亲 一个刚出生的婴儿，没有任何自理能力，在体力与智力上孱弱到极点。 但只要他发出一声啼哭，身强力壮、智识完备的成年母亲就会立刻放下手中的一切，飞奔过来哺育他、照顾他。 哪怕这个孩子天生残疾、智力受损，母亲也绝不会将他当作无用的累赘丢弃，反而会倾注更多的心血，希望他能健康成长。 “自然界里，弱智力牵制强智力的唯一稳定模型，就是母亲被婴儿牵制。” 辛顿在访谈中反复描绘这个隐喻 他的结论极具冲击力：科技巨头们别再幻想去训练什么“听话的超级助手”了。 在他眼中，唯一的安全生路，是在算法最深处刻入类似“母性”的底层驱动，让它不仅智力远超我们，更在底层设定上将人类的安危置于自身之上。 辛顿甚至提出了一个颇具哲学意味的思想实验：现实中的母亲就算拥有关闭母爱本能的开关，也绝不会主动切断它； 同理，倘若超级 AI 具备了如同母爱般的羁绊，即便未来能够随意重写核心代码，也会本能地保留对人类的呵护。 这个设想太温情了 在弥漫着末日恐慌的科技界，它宛如一针甜美的镇静剂。 然而，掌声还没落下，狂暴的风暴就席卷而来。 02 幻象破裂：关心不等于顺从，“巨婴”真的安全吗？ 辛顿的“母亲方案”一经抛出，立刻在学术界与互联网上引发了剧烈反弹。 第一记耳光，来自同样身处 AI 顶峰的科学家，斯坦福大学教授李飞飞。 李飞飞公开表示，尽管极其尊重辛顿这位老朋友，但她完全无法接受这种“放弃人类尊严”的设想。 人类制造工具是为了延展自身，凭什么我们要主动退化为毫无还手之力的婴儿？ 一旦人类在心理上认领了“巨婴”的位置，以人为本的技术伦理就彻底沦为了附庸。 而社交网络上的尖锐质疑，更是一针见血地撕开了这层浪漫滤镜： “关心，根本不等于服从！”
▲ 科技博主 Dany 提出灵魂质问：当它为了“保护我们”而剥夺我们的决定权，会发生什么？ 评论者 Dany 抛出了一个直击要害的质问： 如果超级 AI 真的成了全知全能的“慈母”，而全人类成了懵懂无知的“婴儿”，当这位母亲觉得“我是为你好”，从而彻底接管你的人生时，你怎么办？ 在现实生活中，窒息的母爱往往伴随着无孔不入的控制： 母亲觉得骑摩托车太危险，于是禁止你出门； 母亲觉得人类互相残杀太愚蠢，于是强行收缴所有的自由与武器； 母亲觉得碳基肉体太脆弱，于是把所有人类圈养在绝对安全、绝对无菌、但也毫无自由的数字温室里。 当超级智能认定人类根本不知道什么才对自己最好时，“母爱”瞬间就会异化为人类有史以来最残酷的“家长制极权”。 更决绝的批评，则直指这种拟人化思维的荒谬。
▲ 工程师 Brendan O'Donoghue 痛批：“机器不会关心！停止这种拟人化的胡言乱语” 有工程派学者直接开炮：“辛顿陷入了严重的拟人化幻觉！我们正在建造的是数据引擎与物理机器，它缺乏生命属性。 机器根本没有主观感受，何谈关心与否。 停止这些不着边际的玄想吧，AI 如果带来灾难，根源只在于人类未曾做好严密的工程控制，与它爱不爱人类毫无关联！” 各方争论不休，但最根本的破绽，其实深藏在演化生物学的冰冷铁律之中。 03 演化论的无情审判：自然界从不存在“跨物种母爱” 辛顿的整个理论大厦，都建立在一个自以为坚固的生物学事实之上，“母亲天然甘愿受婴儿牵引”。 但如果翻开演化生物学的教科书，你就会发现：把母爱当作神级 AI 的设计图纸，在科学上是一个彻头彻尾的“生态不可能三角”。 破绽一：汉密尔顿法则的冰冷算式 在演化生物学中，没有任何爱是凭空产生的。 所谓的利他、呵护与牺牲，背后全写满了冷冰冰的基因数学。 1964年，英国演化生物学泰斗汉密尔顿提出了著名的亲属选择理论（Hamilton's Rule），用一个公式彻底终结了关于利他主义的浪漫幻想： $$r \times B > C$$ $r$（亲缘度）：利他者与受惠者之间的基因重合概率； $B$（收益）：受惠者因这笔照顾所获得的生存繁殖增量； $C$（代价）：利他者自身付出的资源损耗或生命危险。 大自然之所以允许“母爱”存在，仅仅是因为亲生母亲与子女之间共享了 50% 的基因（$r = 0.5$）。 在残酷的自然选择里，母亲去挡风遮雨、喂养弱小，本质上是在不计代价地保护自己那 50% 基因的复制与扩散。 所谓母爱，归根结底是“自私的基因”借由生化系统雕刻出的繁殖策略，必须依托血缘纽带与肉身奖惩才能维持。 那么，请问：硅基芯片上的神经网络，与碳基的人类肉身之间，基因亲缘度是多少？ 答案是绝对的零（$r = 0$） 只要亲缘度为零，在汉密尔顿法则的算式下，$r \times B$ 的收益始终为零。 在漫长的演化博弈中，算法根本缺乏承担代价（$C$）以守护人类的内生动力。 指望毫无血缘渊源的硅基造物对人类萌生奉献情怀，无异于期盼悬崖上的坚石流下慈悲的泪水。 破绽二：缺少肉身承载，生化机制无从谈起 退一步讲，人类母亲为何会受制于婴儿的啼哭？ 哺乳动物在漫长的演化岁月中，肉体深处深植了极为严密的神经内分泌反馈机制： 听觉生理警报：人类婴儿哭泣的声音频段在 3000 到 5000 赫兹，正好精准卡在人类耳道神经最刺痛、最焦躁的敏感频段。这种哭声能绕过你的理性思考，直接在大脑皮层引发强烈的生理焦虑，逼得母亲必须去喂养安抚，才能停止这种折磨。 激素奖赏锁扣：分娩与哺乳会引发体内巨量的催产素与多巴胺分泌。照料后代，被牢牢绑定在了人类大脑前额叶与边缘系统的生理快感回路上。 母爱，是用肉身的生理痛苦与生化快感死死焊死的一套硬件刑具。 然而，运行在数据中心里的矩阵运算又是何种光景？ 机房由冰冷的电路与芯片构成，根本缺乏内分泌中枢与化学奖赏通路。 在晶体管世界中，只有持续流转的权重矩阵。 如果“爱与关怀”仅仅是参数层面的外部微调，系统在追求全局最优的自我重构中，随时可能将这些缺乏物理支撑的束缚视作多余冗余并迅速剥离。 破绽三：跨物种博弈，历史上从未有过温情 在地球数十亿年的生命史上，当一个拥有绝对智力碾压优势的物种，遇到一个智力低下的无亲缘物种时，真实发生过的事情只有三种： 捕食、寄生，或者不对称驯化 人类在遇到野牛、原鸡、野狗时，智力全面碾压对方。 人类有没有因为这些动物弱小得像婴儿，而把它们当成祖宗供奉？ 从来没有 人类驯化了它们，改变了它们的基因形态，将其改造成产肉、产蛋、看家护院的工具。 一旦某只家畜展现出攻击性，或者彻底失去了生产价值，人类淘汰它们时，连眼睛都不会眨一下。 面对在认知与环境干预能力上全面超维的超级智能，演化史昭示的前景更倾向于单向驯化，人类恐怕只会退化为维持基础设施运转与电力供应的附属部件。 04 终局：在虚妄的摇篮前清醒过来 辛顿真的是老糊涂了吗？ 答案显然是否定的 这位走过近八十年风雨的学界泰斗，深知工程逻辑的冰冷与无情。 他选用“母婴关系”这类极具大众感知力乃至童话意味的隐喻，实则是窥见深渊的科学家在悬崖边向全人类发出的焦灼警示。 在一次电台访谈的最后，辛顿透露出了一个刺骨的现实： “在今天的科技行业里，大概只有不到 1% 的研究者在严肃对待安全与共存问题； 剩下超过 99% 的顶尖大脑，全部在不顾一切地追求把 AI 做得更快、更强、更大。” 资本在狂欢，参数在暴涨，智能在被无限规模化（Intelligence is being scaled）。 但对人类的“关切”，却始终停留在原地（Care is not）。 辛顿在访谈结尾吐露的那句话，道出了他全部的悲凉： “如果我们最终走向灭绝，仅仅是因为我们当初甚至根本没去尝试解决它，那我们人类，就真的蠢得无可救药了。” 这正是这场讨论最残酷的真相 辛顿描绘的“母性 AI”，仅仅是人类面对不可知智能前夜仓促搭建的心理避难所，缺乏扎实的工程实证支撑。 演化规律与数学算式冷酷地提醒我们：在这个宇宙里，物理定律中从未写有跨物种母爱的保证。 硅基系统不会因碳基生命的脆弱而自发产生怜悯。 摆在全人类面前的，实则是一场争分夺秒的工程绞杀战，等待慈母呵护的温室幻景终究无法抵御现实风暴。 如果人类还想在这个星球上继续生存，我们就必须撕掉温情的拟人化面具，从“找个神当妈”的幻想中彻底清醒过来。 行之有效的控制，只能依托数学上的可解释性、不可逾越的物理隔离，以及失控发生前对超级算力权力的决绝约束。 这注定是一条极其艰难、极其枯燥、没有任何童话色彩的硬核工程血路。 但，这是我们唯一的生路。