Hinton预警“AI正撕裂全球”：4.8万亿市场已锁死新智元

最近，AI教父Hinton发出最尖锐警告：不受监管的AI就是一辆没有方向盘的高速跑车！全球只有1%的AI研究在做安全，4.8万亿美元的巨兽正在失控加速。

当78岁的Geoffrey Hinton坐在摄像头前，对着在场的几百位代表说出这句话时，整个会场安静了几秒。

「他们想要一辆没有方向盘的超级快车。」

最近，这位2024年诺贝尔物理学奖得主、被全世界叫了十几年「AI教父」的老人，在全球数字世界大会上，再次向全人类拉响了警报。

这位老人用几乎是带着恳求的语气警告：「我们不知道人类能否与超级智能AI共存。」

「但我们正在建造它。」

只有1%在管安全，剩下99%在踩油门

在发言中，Hinton给我们算了一笔很清楚的账。

全球AI产业正以人类历史上前所未有的速度膨胀。UN贸发会议的数据显示：2023年全球AI市场规模1890亿美元，到2033年预计飙到4.8万亿美元。

也就是说，人类只用了十年时间，就从零造出一个比日本GDP还大的经济体。

这些钱，几乎都用在了造更大的模型，跑更多的算力。

至于安全呢？Hinton给了一个数字：大概1%。

全球AI研发投入里，只有大约1%花在了「怎么让这东西不出事」上面。

对此，Hinton的评论是：It's crazy.

「AI科技游说集团正在花大价钱投广告，想让所有人接受一个类比——AI是油门，监管是刹车。他们的意思是，别踩刹车，会拖慢我们。」

对此，Hinton表示，这个类比完全是错误的！

「油门是进步，没错。但监管不是刹车，监管是方向盘。他们想要一辆极速狂飙的车，但没有方向盘。」

坐在他旁边的Terry Sejnowski立刻接了一句：你开过一辆没有刹车的车吗？下坡的时候你就知道有多惨了。但更惨的是，我们连方向盘都没有。

油门踩到底，方向盘拆掉，这就是当下全球AI竞赛的真实状态。

两位老人的颁奖典礼

怎么变成了一场审判

2026年世界数字大会的主题是「AI与社会发展」。

这次大会给Hinton和Sejnowski颁了一个奖，表彰他们在1980年代发明玻尔兹曼机，它后来成了深度学习革命的催化剂。

颁奖人是微软的语音识别专家李登（Li Deng），他自己就是玻尔兹曼机的受益者。

前半场，三个人聊的是科学往事，学术荣光和师生情谊。

Hinton和Sejnowski回忆了1980年代在罗切斯特的一次会议上，他们是如何把Hopfield网络和模拟退火结合在一起，这个灵感迸发的瞬间。

Sejnowski说，自己记得一清二楚——「我们坐在那里，突然意识到可以把Hopfield网络加热，让它变成概率性的。」

随后，Hinton补了一个细节：那个时候他刚在圣地亚哥跟David Rumelhart一起编程反向传播，用的是logistic单元。

而给Hopfield网络加温度之后，出来的恰好也是logistic单元。两条完全不同的路，在同一个数学形式上汇合了。

在科学史上，这种时刻被叫做「晶化瞬间」。

值得玩味的是，Hinton至今仍然认为玻尔兹曼机比反向传播更优雅。「它是一个好得多的想法。只是不太好用。」

Sejnowski笑着附和：「它在生成式AI还没流行之前几十年，就已经是生成式神经网络了。」

一个更优雅但不实用的想法，和一个没那么优雅但统治了整个时代的算法，在科学史上，这种故事反复上演。

「AGI，是一个愚蠢的术语」

但颁奖典礼的后半场，画风急转。当主持人把话题引向AGI和社会风险时，Hinton彻底切换了模式。

李登问了一个很多人都想知道的问题：你们怎么定义AGI？什么样的基准测试能说明AGI已经到来？

Hinton毫不留情地表示：「AGI是一个愚蠢的术语。」

理由很简单：它假设智能是一维的，像温度计一样，数值越高越聪明。

「但智能显然是高度多维的。所以不存在一个点，AI在那个点上等于人类。它相对于人类的能力是锯齿状的——在某些方面已经远远超过我们，在另一些方面还不如我们。」

他举了个例子：你现在去问任何一个大模型，斯洛文尼亚的报税截止日期是哪天，或者怎么给门廊做防潮处理，它都答得头头是道。在通识知识这个维度上，AI早就把人类甩了几条街。但在某些推理任务上，它还没完全追上。

「所以，AGI这个词没有意义。」