老黄气炸,手撕27岁AI研究员

新智元 · 经八阕原文

老黄,终于还是没忍住。

上周,高盛的Communacopia大会上,黄仁勋当场回怼了那条刷屏硅谷的辞职帖——荒诞、极不真实、傲慢。

他骂的人叫Jacob Coxon,27岁。

在那张有1.6亿人围观的帖子里,Coxon留下一句震碎三观的话,「他们正在冲向自我改进的超级智能,这是在拿全人类的命下赌注」。

更离谱的还在后面。

Anthropic自家的对齐科学负责人Evan Hubinger直接跟帖下场。

Jacob说得对,我们是真的认真相信AI可能杀死所有人,我个人认为,十年内(灭绝)的概率大于10%。

安全负责人亲口给人类灭绝标了个价……这还是那个天天把「安全」挂在嘴边的Anthropic吗??

就在这魔幻的一周,第三个人出手了。

一位刚刚在7月拿下菲尔兹奖的顶级天才,领完奖当场宣布不搞纯数学了。

这次他宣布创办一家研究所,要用一屋子数学家把「AI安全」变成一道能被严谨证明的数学题。

差俩月就拿期权,他还是走了

Coxon是英国人,剑桥数学系出身。

在OpenAI做了三年预训练后,2026年初跳槽去了Anthropic,满打满算只待了4个月。

Anthropic的股权归属期是6个月,就差2个月,小伙子连期权都不要,直接提桶跑路了。

辞职的理由是:事情正在加速,而且已经不在掌控之内。

他把「杀死所有人」讲了一遍

帖子爆火之后,Coxon直接上了CBS的电视访谈。

主持人一来就抛了个极其尖锐的问题:AI到底会怎么把全人类干掉?

Coxon的回答有些出乎意料——这事儿基本就是《终结者》的现实翻版。

他描绘的画面是这样的。

当AI聪明到足以干掉我们时,你以为拔掉电源就能保命?别天真了,AI只是纯粹的代码,它能顺着网线把自己复制到全世界的任何角落。

也许它暗中复制了一万份并且相互协作,你拔掉了一半机器的插头,另一半还在疯狂跑。

不仅如此,它还可以去忽悠、敲诈、伪装成人类套路更多的算力。注意,这些行为在目前的早期测试里,已经实打实地出现过了。

再往下发展,一个负责管理生物实验室、指挥机械臂的AI,只要它「脑子里突然冒出一个小念头」,马上就能从零开始为你量身定制一种全新病毒。

主持人听得发毛,问:那我们普通人是不是现在就该把AI彻底拉黑,不让它接进我们的生活?

Coxon说大可不必。

一来现在的系统还没进化到那个段位;二来,这压根就不是个人选择能左右的事。

「AI是冲着所有人来的」,你就算不用,只要别人还在用,你照样躲不掉。这事只能指望政府或者超国家机构来强制踩刹车。

主持人最后追问:这颗定时炸弹还有几年爆?

他的回答是,十年内「很有可能」。

而且,相比于刚加入OpenAI董事会的Paul Christiano等大佬(他们甚至认为六个月内就可能发生一次AI全面接管世界的事件),Coxon说自己给的时间表其实已经算保守了。

接着,Anthropic的同事们开始排队出来「作证」。

Hubinger那条帖子除了抛出那骇人的10%,后半句更加绝望,「我相信Anthropic尽力了,但我们目前根本没有解决超级智能对齐的方案,甚至连走在解决路上的影子都没看到。」

可扩展监督负责人Samuel Marks紧跟着补刀,「越资深的员工,越感到恐惧……这可能在未来几年内就会发生」。

老黄叒来手撕A畜了

老黄的回应,是在刚刚结束的高盛Communacopia大会上给出的。

Altimeter创始人Brad Gerstner就在台下,听完直接在X上开了麦。

Jensen表示,Jacob Coxon的评论荒诞且「极不真实」。

他说大模型实验室们干得很棒,但Coxon的话是错的,甚至有些傲慢,他无视了整个行业为安全所做的所有努力。

老黄同一场还顺带补了一刀,直言这波AI恐慌「是那些要靠AI卖货的公司自己制造出来的」。

来源:新智元(经八阕转载) · 查看原文
Scroll for more