Anthropic CEO发万字檄文：指数级AI不可逆新智元

就在刚刚，Anthropic 的创始人兼 CEO Dario Amode发表了了一篇万字檄文——《指数级AI政策》！

这是一篇足以载入AI发展史册的重磅文章。

在文中，Amodei做出了罕见的举动：作为全球顶尖AI实验室的掌门人，他主动要求政府对自己和同行实施严厉监管。

他主张，计算量超过10²⁵ FLOPs或者AI相关营收超过5亿美元/AI研发投入超过10亿美元的头部AI企业，必须接受政府强制监管。

一旦发现模型存在生物、网络安全或自主失控等灾难性风险，政府可以直接「封杀」！

同步发布的，还有Anthropic的两份正式政策提案：一份针对前沿AI模型的强制监管框架，一份针对AI引发的就业冲击的经济补偿方案。

为了表示来真的，Anthropic承诺为这两份提案提供了真金白银——2亿美元用于研究，1.5亿美元用于奖学金。

今天，Anthropic的这一举动，彻底打破了硅谷巨头长期以来抗拒监管的默契。

它向全球释放了这样一个信号：温和的自律时代已经宣告终结，AI指数级爆炸的速度，逼迫我们必须在灾难发生前，给大模型套上真正的「紧箍咒」！

树人觉醒了！

托尔金在《指环王》里写过，树人是森林的守护者，古老、睿智、强大。但他有一个致命的弱点：太慢了。跟另一棵树打个招呼，要花整整一天。

当半兽人的军队已经在砍伐他的家园，他还在慢悠悠地思考要不要行动。

现在，AI正在以闪电速度疯狂进化，而各国政府，正是那棵慢吞吞的树人。

Amodei为什么突然这么急？直接原因，就是Mythos。

Claude Mythos Preview能自主发现了所有主流操作系统和浏览器中的数千个高危漏洞。

用Amodei的话说：

Mythos Preview 彻底改变了全球网络安全的版图。它不容置疑地证明了，前沿AI模型如今已成为具有全球和国家战略后果的强力工具。而且，这绝不会是我们面临的最后一次危机。

Scaling Laws已经有超过十年的实证支持。如果它再持续两年，我们就会得到Amodei所说的「数据中心里的一个天才国度」——相当于一亿个顶尖科学家同时在线工作。

然而，国会通过一部重要法律，平均需要数年。

树人般的速度，根本无法阻挡化身为「天才国家」的指数级AI！

过去几年，Anthropic一直在推动所谓的「透明度立法」，这就是当时能做到的全部。

因为在2023到2024年，AI的风险还不够具体。你无法精确描述一个尚未出现的风险，也就无法针对它立法。

但现在，Mythos让一切都不同了！

网络安全风险不再是假设，它已经是现实，生物武器风险和AI失控风险也在快速逼近。

FAA模式：AI系统上天之前，先做适航认证

Amodei给出的监管模板，是美国联邦航空管理局（FAA）。

飞机要上天，必须通过严格的第三方测试，拿到适航证书。无论是波音还是空客，只要审查通不过，就要停飞。

Amodei认为，前沿AI模型应该接受同等对待。

他提出的具体门槛是：

-计算量超过10²⁵ FLOPs（这大约是当前最顶尖模型的训练规模）

-或者：AI相关营收超过5亿美元，或AI研发投入超过10亿美元

达到这个量级的公司和模型，必须接受强制性的第三方测试，覆盖四个核心风险领域：

一、网络安全风险。 AI是否能被用于发现漏洞、攻击基础设施、瘫痪金融系统？

二、生物武器风险。 AI是否会帮助降低开发危险病原体的门槛？

三、失控风险。 AI系统是否可能在开发者无法控制的情况下自主行动？

四、自动化研发加速风险。 AI是否在加速自身能力的提升，从而放大上述三类风险？

测试必须由合格的独立第三方完成，可以是类似FAA的政府机构，也可以是经政府授权和监管的私人评估机构。