面对人工智能威胁，这回真得喊“狼来了”

“看起来到了4月，你知道的，理论上来说，天气稍微暖和一点，它就会奇迹般地消失。”

这是特朗普总统在2020年2月10日谈及新冠疫情时所说的话，大约一个月后，这场疫情便迫使我们的国家乃至全世界进入了漫长的封锁期。

为什么我今天会想起这件事？因为当我回顾自己报道过的最大灾难事件，包括9·11事件和新冠疫情，我惊讶地发现，它们有一个巨大的共同点：想象力的缺失。诚然，政府专家在理论上对这些事件做过准备，但在实践中，有多少人能想到自杀式恐怖分子会驾驶民航客机撞向世贸中心和五角大楼？又有多少人想象到，一种在中国武汉出现的呼吸道病毒会夺去成百上千万人的生命，并让世界经济陷入长达数年的低迷？因此今天，当谈到人工智能——它正落入恶意行为者手中，并开始展现出自身的意志——可能会带来极大的不稳定性时，我的想象力已被彻底激发。

以下是我的想象力告诉我的。它告诉我，中美两国的大型人工智能公司并没有坦诚地告诉我们，对于他们像巫师一样在实验室里开发出的这些模型的威力和影响范围，甚至连他们自己其实也知之甚少。它告诉我，特朗普政府——由一位经常通过社交媒体发帖来治国的人所领导——尤其不适合开展那种对保障人工智能安全所需的那种全面、持续且协调的治理。它还告诉我，鉴于其中牵涉的经济、军事和技术利益如此巨大，而华盛顿和北京之间的信任又如此匮乏，想要中美两国就化解人工智能带来的最可怕威胁进行深度合作并达成一致简直需要奇迹。

不过，现在进行彻底的反思仍然为时未晚——在一场由人工智能驱动的危机全面爆发、极其糟糕的事件迫使所有关键参与者去做那些他们从未想象过、却又不得不做的事情之前。我宁愿在人们记忆中是那个狼没来时就喊“狼来了”的男孩，也不愿成为被狼吃掉的那个人。

所以我要开始喊了：“狼来了，狼来了，狼来了，狼来了。”

只有当我看到美国和中国开始联手应对这一紧迫威胁，共同保护本国及全球的供水系统、电网、互联网等关键基础设施，我才会停止。

但要让我真正松一口气，除非看到这样一幕：华盛顿和北京与各自的人工智能公司齐聚一堂，制定出一项长期计划，规划他们如何能够继续在人工智能技术上展开竞争，同时也就建立内部人工智能护栏达成一致，以防止越来越强大的人工智能系统自行引发灾难性的网络安全、生物、核或金融风险。这是历代美中政治家都从未面临过的地缘政治、地缘经济和技术挑战。如果他们选择回避这一挑战，不仅会危及自身，也会危及我们所有人。

我真诚地希望，特朗普与习近平主席本周四在华盛顿举行的峰会能制定出此类战略。人工智能在能源、生物学、新材料和药物发现等领域实现变革性突破的潜力是前所未有的。但其风险同样也是前所未有的。

我们需要一种方法，既能获取人工智能带来的最大益处，又能防范其最坏的影响——而我们今天还不具备这种方法。

除非中美达成协议，确保这两个世界人工智能超级大国正在开发的人工智能代理只能以符合人类繁荣的方式运行，并一直保持这种状态，否则我就是属于“把这东西慢下来、直到我们确信可以控制它”这个阵营。我身处这个阵营的原因，与斯坦福大学政治理论家弗朗西斯·福山周一在Substack的电子杂志“Persuasion”中提出的观点相同：“人工智能是一种既可用于善，也可用于恶的工具。而目前，除了创造这项技术的人的善意之外，我们几乎没有任何机制来约束其恶意使用。”

上一次我们相信硅谷科技大佬们的善意时，他们说要“快速行动，打破陈规”——去他的监管，结果我们放任放任了那些助长社会分裂的社交网络。我丝毫不相信，在人工智能问题上，这些人会将国家利益置于自身利益之上。

任何告诉你“我们现在承担不起监管，因为这可能会阻碍创新步伐”的人，都忽略了三件事。首先，正如牛津大学马丁学院新经济思维研究所执行主任埃里克·拜因霍克告诉我的那样，那些主张监管从本质上来说会扼杀创新、破坏市场的人“完全对历史一无所知”。他说，“良好的监管能够建立信任，而信任能够推动市场发展。你认为航空业或制药业为何能够如此迅速地发展壮大？因为政府监管在消费者中建立了信任，让他们相信自己乘坐的飞机和服用的药物是安全的。”