聪明的AI，会像司马光一样“砸缸”吗？

“如果一个机器人掉水缸里，会有另一个机器人像司马光一样来‘砸缸’吗？” 近日，中国人民大学举办的“科学、哲学与艺术：科技与人文协同之道”对话会第三期上，这一问题抛出后，台下观众陷入了短暂的安静——机器人会像人一样挺身而出吗？还是冷眼旁观？

“科学、哲学与艺术：科技与人文协同之道”对话会。主办方供图 机器人能“砸缸”吗？ “司马光砸缸去救人，不是被教育出来的，而是一种道德直觉的反应。”中国人民大学高瓴人工智能学院吴玉章讲席教授曾毅说。 在司马光砸缸之前，没有人告诉他不施救的后果，完全凭他基于自我体验的道德直觉。“不小心掉到水里，你知道会有生命危险；用坚硬的东西击打水缸，水缸会碎。”曾毅举例称，在这类个人体验之上，才能逐渐产生推己及人、换位思考的能力，“但这并不是训练AI的方式。” 目前，AI大模型以海量数据为基础，通过预训练中学习其中的统计规律与模式，再进行微调适配具体任务，其输出内容本质上反映的是数据中的统计关联。 “这恰恰是如今AI发展的症结，因为人不是这样学会分析与判断的。”曾毅指出，尽管通过训练的AI也会完成施救，“但那并不是灵光一现的创造性思维时刻。” 那么，这种创造性思维时刻始于哪里？曾毅认为，首先要“看见”。 “‘看’这个字很有意思，上面是一个‘手’，下面是‘目’，把手搭在眼睛上面，这才是‘看’的本意，即远望。”天文考古学家、中国社会科学院学部委员冯时补充道，“但在生活中，只局限于‘看’并不恰当，更重要的是‘思’，在观察与推演中发现联系、探寻规律，从多方面、多角度思考问题。” 而如今，当AI也能识别图像、理解文字、分析观点，“看见”越来越多的信息时，是否意味着具备了同样的创造性思维？ “AI目前仍是一个工具，连助手都谈不上。”曾毅解释道，“让AI做什么，比如学一个知识点，它马上可以完成；但让小朋友学习没那么容易，因为他会思考，‘我为什么要学’‘我学了这个知识点有什么用’。因此，人类并不止于完成某件事，而是有更长远的认知与思考。” 认知的起点，则是人类的立场、价值观，以及对世界的思考与问题意识。 这也是曾毅团队努力的方向：“我们在做的AI研究，不是用数据去训练它，而是让它在环境中积累经验，培养推己及人的能力，通过与环境的交互认知自主演化出类似道德直觉的行为。”

更聪明的AI、更“笨”的人？ 打开AI对话框，输入问题，按下回车，屏幕上很快跳出四个字："正在思考……" AI究竟能不能“思考”？这是一个计算机领域的经典困惑。 早在1949年，美国数学家埃德蒙·伯克利就在《巨型大脑：或会思考的机器》中写道：计算机能够处理信息、进行计算和逻辑推断并作出选择，因此可被称为“会思考的机器”。这一观点，甚至比艾伦·图灵的《计算机器与智能》，还要早上一年。 但在曾毅看来，对“思考”的界定仍要进一步明晰。“正如哲学家勒内·笛卡尔所说的‘我思故我在’，思考源于对自我的感知与理解。而AI的推理过程并非基于‘自我视角’。” 这一点更体现在科学研究当中。“在科研里，慎思明辨是不可或缺的，我们得到一个结论，一定会经过‘博学之、审问之、慎思之、明辨之、笃行之’这一过程。”，冯时举例称，而在“明辨”之前，一定要“慎思”，这恰恰是AI无法取代的能力。 因此，无法真正“思考”的AI，尽管能把事情做得更快、更好，但其能抵达的也只是“智能”的高度。而人类的价值所在，恰恰在于能够多追问一句“为什么”的智慧。 “我用99%的时间在思考，1%的时间在画画。”漫画家、诸子百家漫画开创者蔡志忠提到，“相比于人类有一颗会思考的大脑，AI缺乏这种原发的创造力和‘无中生有’的能力。” 因此，在曾毅看来，AI反而可以成为人类的一面镜子，“让我们看到人类能做什么、不能做什么，更深刻地思考人类的意义。” AI这面镜子也给人类敲响了新的警钟：当AI在海量数据与超强算力的加持下，更加“聪明”的同时，人类却在过度依赖中悄悄变“笨”。 这不是危言耸听。2025年6月，美国麻省理工学院媒体实验室研究就显示，过度依赖ChatGPT等AI工具的学生，大脑活跃度显著降低，具体表现为神经连接减少、记忆检索能力降低。 “AI是一面镜子，它让我们重塑自己的思维。”最后，曾毅抛出了反问，“当人们习惯这一技术、大脑结构真实发生改变时，我们究竟是在不断升级自我？还是在倒退？”