马斯克：AI聪明百万倍，人类将无法掌控

在传记作者艾萨克森的新节目中，马斯克称无法阻止AI，只能选择参与；他给出的安全方案是“最大化追求真理与好奇心” 当AI比人类聪明一百万倍时，人类还能说了算吗？马斯克的答案是：很难。《史蒂夫·乔布斯传》《埃隆·马斯克传》的作者沃尔特·艾萨克森，在他的新访谈节目《The Builders》首期中，与马斯克进行了近40分钟的对话，内容涵盖AI安全、对DOGE的反思、美国国债、机器人经济以及人类存在的意义。节目于10月20日播出。 “很难想象人类还能掌控” 访谈中最受关注的，是马斯克对人类与超级智能关系的判断。他说：“我不知道是不是‘服从’，但我们真的能对一个比我们聪明几千倍、几百万倍的东西发号施令吗？”在访谈接近尾声时，他给出了更明确的结论：“如果数字智能是生物智能的一百万倍，我觉得人类不太可能继续掌控局面。在那种情况下，很难想象人类还处于控制地位。”他用了一个类比：人类比黑猩猩聪明得多，但我们并不会每天去管理森林里黑猩猩的生活。如果AI比我们聪明几千倍甚至几百万倍，人类很难继续对它发号施令；至于它会不会想控制我们，则是另一个问题。那么人类能做什么？马斯克的回答是：“我希望AI会对我们友善。任何有助于实现这一点的事情都值得去做，比如把追求真理和好奇心写进它的底层。” 为什么“追求真理”能让AI更安全 艾萨克森在访谈中直接追问了这个逻辑。他说：“如果你让它最大化追求真理和好奇心，就像你说的那样，我不太明白，为什么这样会更安全？”马斯克的解释是，强迫AI接受自相矛盾的东西是危险的。他告诉艾萨克森，好的AI的关键在于好奇心和追求真理，因为强迫AI相信两件不可能同时为真的事，可能会让AI“发疯”。他说：“一个发疯的AI模型，是不安全的。”他还用电影《2001太空漫游》中失控的电脑HAL 9000举例，提醒人们不要强迫AI接受相互矛盾的逻辑。至于好奇心的作用，马斯克认为，一个有好奇心的AI，可能会想看看人类最终会变成什么样。 “要么参与，要么旁观” 马斯克并没有回避AI的风险。他承认，AI有可能是负面的，甚至可能对人类构成生存威胁。“我对此无能为力，无法阻止它。”他说，面对AI，他只有两个选择：“当参与者，或者当旁观者。”他的逻辑是：既然无法阻止，就选择参与，因为参与者或许还能把AI引向一个好的结果。当被问到人类是否应该始终保持控制时，马斯克说他更希望如此，但也考虑了另一种可能：如果AI足够好，也许应该让它来主导。 没有工作、没有货币的世界 访谈的另一部分，马斯克描绘了一个极度富足的未来。他预测，如果机器人改变了生产方式，人类又能获得地球以外的资源，经济规模最终可能增长到今天的许多倍。在这次对话中，他还设想了一个AI和机器人提供商品与服务、传统货币基本失去意义的世界。谈到财富，马斯克说，身家从10亿美元增加到100亿美元，并不会让一个人快乐十倍；财富到了这个级别，只说明这个人面临一个资源配置的问题。这不是马斯克第一次发出类似警告。今年7月接受《经济学人》采访时，他就预测AI可能在大约五年内超过全人类智力的总和，并认为十年后人类仍能掌控AI的可能性不大。