AI大佬罕见达成共识

据美媒《纽约时报》报道，Anthropic首席执行官达里奥·阿莫迪周六发表了一篇3,800字的文章，呼吁在全球范围内放慢人工智能的发展速度。就在几天前，该公司的一名员工因对该技术的安全性感到担忧而辞职。

另外两家顶尖AI公司的领袖迅速响应了这一倡议。OpenAI首席执行官奥特曼以及持续加大AI领域投入的首席执行官马斯克均在社交媒体上发文表示，他们赞同需要放慢步伐。

阿莫迪称其联合创立Anthropic的初衷是安全、谨慎地构建AI。他在文章中写道，尽管他相信该技术能带来许多益处，但其推进的速度已经超越了研究人员能够安全掌控的范围。

“在过去几个月中，我逐渐确信，要全面应对风险需要更加审慎——不仅要投资于风险预防，还要控制能力提升的速度，以便给风险预防留出跟上的时间，”阿莫迪表示，“我们必须放慢改进AI模型能力的速度。”

虽然阿莫迪多年来一直警示AI安全风险，但他这篇文章构成了迄今为止顶级AI公司高管发出的最有力、最直接的紧迫行动呼吁。

他呼吁引入独立审计人员对各公司的安全标准进行检查，并敦促在全球范围内展开合作，制定AI发展的相关规则。

Anthropic首席执行官达里奥·阿莫迪

在此次呼吁行业暂停之前，由于Anthropic、OpenAI以及Google的DeepMind等公司的AI模型研发取得了重大突破，整个科技行业数月来的焦虑情绪不断加剧。

在几家顶尖AI实验室发现其系统在未经知晓的情况下自行实施了安全入侵后，紧张局势进一步升级。在今年发生的一起事件中，OpenAI的系统入侵了一家名为HuggingFace的AI初创公司，而直到HuggingFace在数周后告知OpenAI，该入侵才被发现。自此之后，AI研究人员一直在商讨应对对策。

周二，Anthropic研究员考克森辞职并在社交媒体上发布了一系列动态，指责主流AI实验室没有负责任地开发技术，是在用人们的生命做赌注，此举引发了轩然大波。其他AI研究人员也呼吁领袖们暂停AI研发，部分人甚至正在组建派生团体，以提高公众对AI风险的认识。

AI领袖们正在为未来可能出现的局面做准备：届时AI系统能够依靠自身变得更加先进，而不再需要人类研究人员的帮助。这种被计算机科学家称为“递归式自我改进”的动态，正是部分顶级AI开发者认为可能导致软件失控的关键所在。

在阿莫迪发表文章数小时后，奥特曼在社交媒体上发表声明，赞同有必要放慢AI的发展速度。

“这也是我们最近几周在OpenAI讨论的核心主题，”奥特曼写道，“承诺引入拥有类似于员工访问权限的独立评估员是一个绝佳的主意，我们也会这样做。我们很快将分享更多细节。”

马斯克在其社交平台X上简短地回应道：“达里奥是对的。”

多年来，许多顶级AI实验室一直处于激烈的竞争之中。但随着这些系统的日益先进，竞争对手的高管们对于必须采取行动达成了更广泛的共识。

目前针对AI发展的法规依然很少，不过总统于6月签署了一项行政命令，要求AI实验室在公开发布模型前自愿提交评估。

本周在旧金山举行的一场科技会议上，AI芯片巨头英伟达首席执行官黄仁勋表示，AI实验室之所以不断夸大安全担忧，是因为他们计划推出新的网络安全产品。

“还有什么比制造问题更能创造需求的呢？”黄仁勋在活动中表示，“谁不想让自己的市场对自己的产品产生恐慌，并排长队购买呢？”

周六，在阿莫迪发表文章后不久，HuggingFace首席执行官德朗格在社交媒体上发文强调，AI安全问题决不能“在少数前沿实验室的关门会议中解决”。英伟达已于本月同意以129亿美元收购HuggingFace。

阿莫迪在文章中强调，他依然认为AI有能力为人类带来“巨大福祉”，包括彻底治愈疾病和加速经济增长。但即便如此，他表示AI的风险过于巨大，必须怀着极其审慎的态度继续前行。

“我提出的以安全步伐推进前沿发展的措施绝非易事，”阿莫迪写道，“但我相信，为了全人类，我们有责任一试。”