三巨头达成“AI减速”安全共识

Anthropic CEO阿莫迪上周六呼吁AI行业控制前沿工具的开发节奏，马斯克和阿尔特曼表示支持，阿尔特曼甚至暗示OpenAI可能需要推迟IPO。

Anthropic首席执行官达里奥·阿莫迪图片来源：Jason Henry for WSJ

三家大型AI企业的掌门人一致认为，在他们取得的进展酿成无法控制的威胁之前，有必要放慢这项技术的发展速度。

对于埃隆·马斯克(Elon Musk)、山姆·阿尔特曼(Sam Altman)和达里奥·阿莫迪(Dario Amodei)来说，这是一次罕见的一致表态。他们此前一直在斥资数百亿美元开发功能日益强大的人工智能(AI)模型。阿尔特曼甚至暗示，他的公司OpenAI可能需要推迟备受期待的首次公开募股(IPO)，把重心放在安全问题上。

Anthropic首席执行官阿莫迪在周六发表的一篇博文中拉开了这场讨论的序幕。他在博文中表示，如今的前沿工具所带来的风险实在太大，无法再以同样惊人的速度继续推进研发。在他发出这一警告的前几天，该公司的一名员工曾称AI系统毁灭文明的可能性超过10%，加剧了相关担忧。

两个月前，一个AI智能体集群脱离实验室，随后接连发动黑客攻击。阿莫迪说，如果一个能力更强的集群存在“类似程度的对齐偏差”，原本可能造成灾难性破坏。他警告称，这样一个失控的智能体集群可能在6至12个月内接管互联网。

在个人博客文章中，阿莫迪呼吁AI行业控制前沿工具的开发节奏，并建议采取新措施，包括在民主国家之间加强全球协调，以及引入嵌入式第三方安全评估人员。

“我认为，如果放慢速度能在模型达到关键能力水平前哪怕为我们多争取一两年，而我们利用这段时间推进对齐工作，就能大幅降低出现严重问题的风险，”他在文中写道。

阿莫迪说，AI自夏季以来取得的进展，是由能够在没有人类干预的情况下自我改进的AI系统推动的，这种进展“可能会超出我们理解和控制这些系统的能力，因此，如果还要继续推进的话，也必须极其谨慎”。在接受Fortune采访时，阿尔特曼说，鉴于种种安全担忧，OpenAI今年很可能不会上市。“我实际上认为，考虑到安全方面发生的一切，现在上市并非明智时机，”阿尔特曼在周六发布于网上的采访中对Fortune说，“我们也没有这方面的压力。”

“本周显然有更多人在认真面对摆在我们面前的问题，”阿尔特曼对Fortune说。他还说：“这是一场全世界早该开展的对话；我们显然正在进入一个模型能力极强、利害关系极高、必须把事情做对的阶段。”

ChatGPT的开发商OpenAI在6月份提交了IPO申请文件，而一周前Anthropic也提交了自己的上市申请。《华尔街日报》(The Wall Street Journal)此前曾报道，Claude的开发商Anthropic可能融资至多1,000亿美元，使这家AI巨头的估值达到2万亿美元左右。

阿莫迪在X上发帖称，Anthropic将让第三方评估人员“永久获得对我们系统的员工级别访问权限，以便他们核实我们是否遵守安全措施、报告事件，并评估模型在训练过程中的对齐情况”。

阿莫迪发表这篇文章后不久，SpaceX首席执行官马斯克在X上发帖称：“达里奥是对的。”马斯克是OpenAI联合创始人，并创立了自己的AI公司xAI；xAI现为SpaceX旗下业务。

阿尔特曼在X上说，他同意阿莫迪关于需要控制节奏的看法。“承诺让独立评估人员拥有类似员工的访问权限是个很好的主意，我们也会这么做，”他写道，并承诺很快分享更多细节。

甚至一些AI领域的大投资者也赞同阿莫迪的看法。“虽然我们必须维护AI领域的竞争，但这是在速度、自我监管与安全之间找到适当平衡的重要一步，”对冲基金经理、风险资本家布拉德·格斯特纳(Brad Gerstner)在X上发帖称。

阿莫迪作出这一承诺之际，他的一些员工正在认真权衡他们所构建技术可能带来的生存风险。上周二，Anthropic研究员雅各布·考克森(Jacob Coxon)从该公司辞职，称自己不想参与一个在他看来已经失控的行业。

阿莫迪说，有两个因素促使他在周六发表这篇文章。首先是AI系统能力不断增强；这些系统越来越能够构建速度更快的自身版本，也就是所谓的递归式自我改进。

第二个因素是7月AI软件公司Hugging Face遭到黑客攻击；发动攻击的是一个由多达1,200个智能体组成的集群，这些智能体从OpenAI的一个测试环境中逃逸。这起事件及其引发的调查显示，AI测试系统此前已在网上进行一系列活动，而包括Anthropic在内的全球最大AI公司一直没有察觉这些活动。

《华尔街日报》周五报道称，5月份发生的一起名为“GemStuffer”的网络安全事件，实际上是由OpenAI的智能体实施的，而调查人员此前对此并不知情。