费曼活在今天，会如何“手撕”那些AI发布会？追问next question

如今，人工智能正以一种变革性力量的形象被呈现给公众，仿佛它将彻底革新科学、医学、教育，甚至重塑创造力本身。

费曼不会轻易否定这一切。但他可能会说，慢一点，先弄清自己真正知道什么，坦率承认自己不知道什么，永远不要把令人印象深刻的结果误认为理解。

理查德·费曼（Richard Feynman，1918年5月11日-1988年2月15日）图源：维基百科

第一原则是：你绝不能欺骗自己——而你自己，恰恰是最容易被欺骗的人。”理查德·费曼在1974年加州理工学院的一次毕业典礼演讲中这样说道。他并没有以一位高高在上的哲学家口吻发言，而是作为一名身处科研一线的物理学家，为日常工作提供一条极其实用的准则。

他对名望、权威，以及那些无法经受检验的解释，向来缺乏耐心。他常说：“你的理论有多漂亮、你有多聪明、你的名字有多响亮，这些都不重要。”“如果它与实验不符，那它就是错的。科学的关键，就在这句简单的话里。”学生们起初往往会发出几声轻笑，但当这句话真正沉淀下来，现场便安静了。

费曼是个充满反差的人：活力十足，不拘礼法，却又对那些听起来头头是道、落到实践中却站不住脚的解释始终深怀警惕。相比之下，他更推崇的是好奇心，以及对胡说八道毫不容忍的态度。要是周遭的气氛变得过于沉闷拘谨，他就宁愿去敲他的邦戈鼓。费曼有一种强烈的本能：

理解一件事，最好亲手去做，而不是只在纸面上读它。

对物理也是如此——他不要空洞的描述，他要真正的参与。好奇心本身无需辩护。没错，费曼当然也是诺贝尔物理学奖得主。他还发明了一套以图示方式理解光与物质相互作用的方法，也就是后来闻名于世的费曼图；借助这些图示，物理学家往往可以一眼看出复杂过程的关键结构。

理查德·费曼，摄于1984年，地点是马萨诸塞州沃尔瑟姆罗伯特·特里特·佩恩庄园附近的树林。当时，费曼与摄影师同在思考机器公司（Thinking Machines Corporation）工作，参与 Connection Machine CM-1/CM-2 超级计算机的设计。图片来源：Tamiko Thiel

十几岁时，费曼在没有电路图的情况下就能修理收音机。而在他作为公众人物留下的最后一次重要公开行动中，他揭示了1986年“挑战者号”航天飞机灾难的原因。彼时的他已身患癌症，他仍一针见血地戳穿了美国国家航空航天局（NASA）推理中的漏洞，他拒绝与官僚政客周旋，坚持只和一线工程师对话；并在电视直播中用一杯冰水演示了O形密封圈的失效。在他看来，修理收音机和解释“挑战者号”灾难，其实是同一个问题：两者之中，权威都遮蔽了现实，而一个简单的实验就足以让真相大白于天下。这种思维方式形成于机器学习和神经网络出现很久之前，但放到今天，仍显得令人不安地贴切。

费曼演示冰水实验，1986年1月28日，挑战者号航天飞机在冰冷的空气中发射，不久后爆炸。费曼被任命为总统调查委员会成员。他在公开听证会上，他将航天飞机推进器上的密封材料（O形圈）浸入冰水中，证明在低温下橡胶会失去弹性，从而导致燃料泄漏和爆炸。

你几乎可以想象，费曼会忍不住站起身来，抛出一个看似轻描淡写、实则一剑封喉的问题：你怎么知道？

如果费曼今天还活着，在当下的技术世界中四处游走，你很难想象他会西装革履地站在某场 AI产品发布会的聚光灯下。他不喜欢炒作，也始终警惕那些在细节尚未弄清之前就被高调许下的宏大承诺。他同样警惕那种以掌声代替提问的场面。比起揭晓一件看似完成的产品，他更可能会说：“我其实还不知道这东西到底是干什么的，也正因为如此，我才对它感兴趣。”他也许会当场把演示系统拆开，甚至先弄坏它，再试着把它拼凑复原。仅此一举，就足以让现场的热潮迅速退去，也足以让那些眼巴巴盼着一场完美路演的投资人和利益相关者们，如坠冰窟。

比起站在台上，更容易想象的是，费曼会坐在灯光昏暗的礼堂最后一排，手里拿着笔记本，专注地看着眼前的一切。屏幕上，一组组色彩鲜艳的动画不断掠过：发光的神经网络、流动的数据，还有自信地一路向上的箭头。画面里没有误差线，也看不到不确定性。这个演示看上去近乎完美，前提只是别发生任何意外。台上的演讲者解释说，这个系统“理解语言”、“推理世界”、“发现新知识”。这些说法一次次换来台下的点头和礼貌性的掌声。你几乎可以想象，费曼会忍不住站起身来，抛出一个看似轻描淡写、实则一剑封喉的问题：你怎么知道？

但初次面对这一整套景观的费曼，大概不会急着开口。他会先等一等，听听是否有人解释，当机器出错时它究竟会怎样表现；又或者，人们到底凭什么判断它真的理解了什么。他也会注意到，这场演示只是毫无瑕疵地成功了一次，却没有人追问：如果输入变得古怪、不完整，甚至本身就是错的，又会发生什么。他会听见在这个会场里，“话语”承担了太多不可承受之重，而“实验”却几乎缺席。

彻底的诚实：在1974年加州理工学院的毕业演讲中，理查德·费曼告诉学生，科学诚信取决于“彻底的诚实”。实验应当“尽量提供一切有助于他人判断你的贡献价值的信息，而不只是那些会把判断引向某一特定方向的信息”。图片来源：维基共享资源

如今，人工智能正以一种变革性力量的形象被呈现给公众，仿佛它将彻底革新科学、医学、教育，甚至重塑创造力本身。在很多方面，这些说法并非言过其实。机器学习系统确实能够在人类难以企及的规模上识别模式，例如预测蛋白质的三维结构，筛查组织和细胞图像中的变化，识别埋藏在噪声中的罕见天文信号，以及按需生成流畅的文本或图像。这类系统尤其擅长以惊人的速度和效率处理海量数据，从中发现那些原本可能始终隐而不见的规律。

费曼不会轻易否定这一切。他本人一直对计算与模拟深感兴趣。在洛斯阿拉莫斯国家实验室工作期间，他曾参与开创蒙特卡罗方法，也就是通过随机模拟大量可能结果，再对结果取平均的一类方法；同时，他也推动了量子力学中的计算研究。人工智能如果使用得当，可以帮助科学家提出更好的问题，探索更广阔的参数空间，并发现那些值得进一步研究的模式；但如果使用不当，它也可能让这一过程过早短路，给出答案，却没有洞见；呈现相关性，却没有因果解释；作出预测，却缺乏真正的理解。真正的危险不在于自动化本身，而在于人们容易把令人印象深刻的表现误认为真正的理解。

如今，许多人工智能系统本质上仍以“黑箱”的方式运作。这些模型建立在海量数据之上，而这些数据往往还是专有的；至于模型内部究竟如何得出结果，甚至连开发它们的人也未必能够说清。现代神经网络通常拥有数百万、甚至数十亿个可调参数。费曼同时代的科学家约翰·冯·诺依曼（John von Neumann）曾半带讽刺地说：“给我四个参数，我就能拟合出一头大象；给我五个参数，我还能让它的尾巴摆起来。”这句话提醒我们，不要把噪声误当成意义。神经网络生成的输出往往显得流畅、自信，有时甚至近乎不可思议地敏锐。但它们很少告诉我们，某个答案为什么会出现，更很少说明系统会在什么情况下失效。

这会带来一种微妙却强大的诱惑。当一个系统表现得十分出色时，人们很容易把表现当成理解，把统计上的成功当成解释。费曼一定会警惕这种倾向。临近生命尽头时，他曾在黑板上写下一句简洁的话，像是一条判断标准：“凡是我不能创造出来的，我就不理解。”对他而言，理解意味着你能够把一件东西拆开，再重新搭建起来，并且知道它会在什么地方出问题。而黑箱系统恰恰颠倒了这种本能。它们诱使我们接受那些自己无法完整还原的答案，也让我们相信一些结果，直到出了问题，才意识到自己其实并不知道它们的边界在哪里。