图灵奖得主理查德·萨顿：AI接替人类是必然博士阅读

6月22日-23日，2026方塘论坛在北京举办。在开幕单元的“方塘·终极之问”环节，论坛邀请了理查德·萨顿和项飙回答“人在AI时代如何安身立命”这一终极问题。

理查德·萨顿（Richard Sutton）是强化学习领域奠基性人物之一，2024年图灵奖得主，现任加拿大阿尔伯塔大学计算机科学教授。项飙是德国马普学会社会人类学研究所所长，长期关注人的处境、社会流动、劳动经验与全球化时代的生活结构。

两位学者基于不同的学术背景，从不同尺度解读AI与人类的关系。萨顿从智能本身出发，认为人类作为催化剂、助产士和先驱者，正在推动宇宙进入设计时代；项飙则强调政治、经济和个人体验，关注AI嵌入现实世界和社会关系后带来的影响。

两人的分歧在多个话题上都十分鲜明。项飙指出AI发展的风险以及设定边界的重要性；萨顿则拒绝AI被严格监管，表示目前围绕AI的诸多恐惧是被部分群体有意放大的结果，而监管权力不应被交给少数机构。

项飙亦不同意萨顿关于宇宙进入设计时代的判断。他将重点转向人固有且微妙的体验，以及有限性。“我们并不设计阳光、月亮、空气，和水，也不设计此刻北京夏日里看起来如此美好的千万片树叶。”

正如清华大学文科资深教授、方塘研究院院长汪晖的主持总结，终极问题并不只是科学问题，同时牵连着宗教、宇宙论和本体论层面的追问。就像从勒内·笛卡尔（René Descartes）到拉·美特利（La Mettrie）以来的思想辩论，那些关于人、机器、身体、灵魂与心灵的问题，并没有消失，只是在AI时代重新浮现出来。

理查德·萨顿：AI接替人类是必然

理查德·萨顿：人在AI时代到底如何安身立命，我可以把它拆解为三个问题，一个是“人类是什么”，二是“人类在宇宙中的角色是什么”，三是“我们如何看待自己的角色，是否可以选择接受或拒绝”。

什么是人？人当然是生物，会追求一些目标、创造一些事物；人在宇宙中的角色是什么，在某种意义上我们的作用在于推动人工智能系统的生成与演化，使其不断变得更加智能，或创造出更高智能水平的系统，就像历史上智能不断增长一样。

我们应该如何理解这一角色，以及是否有权拒绝它？这是更加微妙的问题，而答案也并非简单的是与否。

我想大家已经从许多地方听到过关于 AI 的恐惧。但我并不害怕 AI。相反，我认为它是一件伟大的事情。AI 并非某种异己的存在，而是人类最古老追求之一体现。数千年来，无论是哲学家还是普通人，都一直在努力理解他们的心智（mind）是如何运作的，以及让这个心智更好地运作。

我喜欢雷·库兹威尔的话，他说：“智能（intelligence）是宇宙中最伟大的现象。”当我们试图理解智能，其实也是在试图理解我们自身。也正是在这个意义上，我会说理解智能是科学与人文学科共同追寻的圣杯。这是一项伟大而光荣的事业，我们应该为追求它而感到自豪。

说了这么多关于AI积极的方面，当然也有负面的担忧。但或许我们可以先把感受放在一边，先问会发生什么，这会更明确。我想提出四个步骤，它们共同指向一个关于未来的结论。

第一，关于世界如何运行并不存在一种共识。没有任何一个国家、哲学或宗教，能够压倒其他；第二，总有一天人们会理解智能，并有能力创造相关技术。这可能很快，也可能很慢，但在某个地方、某个时间，一定会有人把它做出来；第三，智能不会停留在当前人类的水平，很快会大幅超越；第四，随着时间推移，权力和资源天然倾向于流向更高智能的一方。结合第一点，也就是并不存在统一共识，这种流动很难被真正阻止。

把这些放在一起看，它们指向的是这样一幅图景，从某种意义上说，人类被AI接续（succession）是不可避免的。

但这种看法仍然是非常以人类为中心的。从宇宙视角来看，把整个宇宙自诞生以来约140亿年的历史看作一个整体，可以把它分成四个伟大时代。现在，我们正处在从第三个时代迈向第四个时代的转折点。（编者注：萨顿关于四个时代的具体阐释可以参考他之前在UCLA IPAM的公开演讲）[1]

生命形成了细胞，出现了有性繁殖。最终，动物、多细胞实体、人类、文化、语言、技术和书面语言相继出现。这就是复制时代，因为所有这些东西能够制造出更多自己的副本，但并不理解它最初是如何被创造出来的。

我们现在正在进入第四个伟大时代，即设计时代。在这个时代，世界上一些重要的东西，并不是通过复制产生的。比如礼堂、建筑和道路、电脑和手机，都是设计之物。设计出来的东西意味着物体首先是被构思出来的，然后才被变为现实。

我们正在经历一种变化：宇宙中最显著、最有趣的事物，过去是复制体，也就是生命体；现在，最有趣的东西似乎变成了被设计出来的事物。被设计出来的东西也更容易、更迅速地得到改进。

我们可以说，许多非人类的复制体也会进行设计。比如，很多动物会筑巢、挖洞，甚至制造工具。黑猩猩会把树枝上的侧枝剥掉，用它们来钓白蚁。人类会制造石斧和火，现在我们还会制造电脑、宇宙飞船、工厂、软件和其它工具。比如锤子就是一种用来制造家具的工具，而家具又是为我们的生活设计出来的东西。

所以人类是什么？这并不是最终答案，但我对于“人类在宇宙中的角色是什么”这个问题有自己的想法。人类是特别的，我们并不只是一种复制体，而是把设计带到了高得多的层次。

推进设计到底意味着什么？我认为，这意味着设计出那些本身也能够进行设计的事物。也就是说，设计出拥有心智、能够在心智中看见事物的东西。这正是AI，我们正在制造心智，制造设计者。

所以，对于人类在宇宙中的角色，我的结论是：人类是催化剂，是助产士，或者是先驱者。通过制造AI，人类完成了设计时代，也完成了宇宙的第四个伟大时代。

我们正处于设计时代的前沿，在这样的框架下，看起来我们似乎没什么选择，仿佛宇宙演变和AI的发展与我们做什么无关。但我并不认为这是正确的思考方式。在很多意义上，我们处在中心位置。作为一个整体，我们处在宇宙发展中这一重大事件的中心，因为正是通过我们各自不同而多样的决定，这件事才几乎不可避免地发生。

当然，我们也仍处在我们自身宇宙、生活和选择的中心，可以选择做任何事。我们并不一定要去制造AI，而是可以去做小说家、哲学家，或者去做某个其他科学领域的工程师。

所以，这里有两种视角。一种视角是，我们如何决定自己的生活。另一种视角是，所有这些分散而独立的选择，如何汇聚出大的趋势。其中，存在一种不可阻挡的趋势，即走向设计，走向被设计出来的智能。

我们的角色究竟是由我们选择的，还是已经被某种命运规定了？我的结论是，宇宙的方向和命运，只有在集体意义上才是由我们选择的。这意味着，作为个体，我们几乎没有选择。如果我们试图去主宰这个结果，那很可能会适得其反。我不建议这样做。我不认为我们应该试图成为救世主，去改变世界。但在另一方面，我们每个人又确实拥有个人层面的完整控制和完整选择。

项飙：需要为AI设定边界

项飙：非常感谢理查德。您刚才的演讲非常精彩、清晰，您谈到了设计时代的概念，但我强烈反对。在提出我的论点之前，我想先说几句话作为总体的介绍。

当讨论如何在AI时代安身立命的时候，我想先看看我们身处的环境。

我们讨论AI，并不只是因为这是一项有趣的技术。现在，AI相关公司的总市值已经超过了互联网泡沫破裂时的市值。目前还没有迹象显示，金融市场会因为AI而崩溃，但正在流入AI领域的资金规模已经令人震惊。到2025年，美国前三大AI公司在AI上的支出，已经超过美国政府在教育、信息和社会福利方面的支出。

我们可能还会看到下一轮投资继续到来。因为出于战略或安全原因，欧洲也在思考是否必须拥有自己的数据中心。我们知道这会带来多大的能源依赖。仅仅是一块芯片，为了让它运行，就可能消耗相当于一个家庭用电量的电力。因此，建造大型数据中心基本上像是在建造一座小城市，而且你还必须把它建在相对凉爽的地方。

第二，社会对AI的紧张情绪必须被认真对待。因为AI不是某种孤立在实验室里的东西，不只是科学家、投资者或技术人员的事情，人们会受到它的影响。我们谈论智能，而有一种智能非常重要。中文里有一个词可以表达它，就是体感。

也许AI会变得和人类一样聪明，能够做人类能做的一切，也许它会带来巨大的收益，有些人说它会让全球经济增长30%。但你转过身去问那些20岁、25岁或者30岁的年轻人，问Z世代：你们怎么看？你们现在是否觉得更想努力学习？你们觉得自己会更享受工作吗？最重要的是，你们现在是否更愿意要自己的孩子，把孩子带到这个新的、美好的世界里来？我们都知道答案是什么。

第三个非常重要的社会和政治因素，甚至涉及地缘政治。AI及其算力在全球范围内的分布极其不均衡。它们基本上集中在中美两国，而这双方正陷入激烈的角逐。

AI很容易与军事联系在一起，也很容易与武器化联系在一起。开发一个照顾我健康的智能体相对来说并不难；但你可以想象，开发一个杀死我的智能体要容易得多。因为要改善我的健康，它必须监测非常多的变量，了解我的整个生活方式等等。但杀死一个人是一个单一任务、单一目标，所有算法都可以被有效地衡量，并用来强化这种能力。

在未来几年，我还没有看见任何迹象表明AI的发展以及相关风险会放缓，不过也许会出现某种反思。我不认为AI取代人类这件事真的会发生，因为在那之前，社会张力和社会断裂可能已经变得在政治上不可接受。因此，政府和其他相关方面将不得不介入。此外，地缘政治风险会变得非常高，以至于主要大国不得不认真对待，甚至后退一步。这有点类似于20世纪50年代关于核武器的情况。

人类也许必须为AI设定某些边界，规定其只能被限制在特定领域之内。2028年之后，美国也许设立一个联邦机构来监管AI，已有总统候选人开始讨论这件事。我也希望中国方面应该有对应的组织，联合国也应该设立一个机构来监管AI。

我们确实需要一种全球性的架构，来决定什么样的AI是重要的。AGI真的那么重要吗？我们知道它需要多少资源。把重点放在更具体任务导向的AI上，会不会更明智？比如只是提供某种服务，服务于某些制造业或服务部门。这样训练起来会容易得多，成本也更低，激励机制也更容易建立。

现在回到设计时代。我的不同意见在于，AI并没有把我们带入一个设计时代。相反，我认为AI在很大程度上是复制时代的产物。

假设我们来到一个原始社会，为他们创造一个ChatGPT或大语言模型，我猜测这会比现在难得多。原因很明显，因为那里没有书面语言，没有文字可以收集起来喂给AI。

当没有书面语言时，一切交流都是在人与人之间、在非常具体的情境中当场发生的。当然我们可以记录下所有的声音、颜色、动作等等，去复制他们的生活，但问题是这些信息是否能够被转化成代码？是否能够在某种程度上被标准化，并因此能够被逻辑地操作，用来生成新的代码？

我认为大语言模型之所以能够如此快速地发展，恰恰是因为到了21世纪，我们造出了海量文字。并且，在大规模工业化和官僚化的过程中，一切都变得越来越系统化，语言也变得越来越少嵌入具体语境，而越来越抽象。

这里的抽象有两层意思。第一，它变得更加形式化，也就是意义变得抽象；另一个抽象是，它可以被抽离出来。语言在某种意义上变成了一种因果独立的、自治的代码系统。

有意思的是，大语言模型现在不仅使用AI来占有、重组这些代码，并由此创造出一个几乎与现实平行的世界；在这个过程中，它还发展出了AI的神经网络，因此可以生成进一步的思考，而这也可能是世界模型的基础，来制造实体AI。

我觉得这非常耐人寻味：我们思想和沟通的符号抽象，催生出一个世界的影像。然后这个影像反过来成为统治性的力量，变得比扎根本地的真实生活更真实、更有力量。

在AI时代，人类如何安身立命呢，我觉得应该珍惜我们的有限性。把AI设计成一种追求无限增长的东西，并从社会生活的肌理中脱离出来，沿着抽象、标准化的魔力推进，这就是危险所在。