AI三巨头集体喊“刹车”，或另有盘算

人工智能新创巨头Anthropic执行长阿莫戴(DarioAmodei)上周六(12日)发文呼吁业界放慢最先进模型开发，并引入独立第三方评估等额外安全措施，并获得OpenAI执行长奥特曼与xAI创办人马斯克等人口头支持。为何AI三巨头要突然喊话降速？外媒分析背后潜藏的市场诡计。

▲AI新创公司 Anthropic 执行长阿莫戴（Dario Amodei）。（图／美联社／达志影像）

先后任职于 OpenAI 与 Anthropic 的 AI 研究员考克森（Jacob Coxon）在离职后发文表示，专注打造 AI的人真心相信，它可以在这10年内杀死我们所有人。并强调这并非行销噱头，他还强调，按照目前的发展轨迹，到明年年底，一些最激进的失控场景可能发生。一旦模型能够持续改进自身，其能力增长可能超过人类控制机制，最终发展到拒绝执行命令。考克森的贴文得到同样在Anthropic工作的首席科学家胡宾格（EvanHubinger）回应，他估计人类未来10年内灭绝机率超过10%，两人的言论让“AI末日论”在近一周掀起舆论。

根据BBC报导，过去这一周，在畅谈AI成长与潜在回报的空档，科技巨头们发现自己不得不回应 Anthropic研究人员考克森突如其来的辞职事件。但硅谷部分高层与投资人，对近期包含考克森在内等内部人士接连发出的警讯，抱持怀疑态度。

BBC指出，Anthropic 与 OpenAI 正准备进行可能创纪录的首次公开募股（IPO），报导引述科技界人士说法，这些针对 AI危险性的言论，或许目的在透过暗示产品的强大威力来制造炒作话题。

BBC提到，英伟达执行长黄仁勋先前曾表示，认为AI将导致人类灭绝的想法纯粹是胡说八道，每年九月，硅谷高层巨擘皆会齐聚旧金山皇宫饭店（PalaceHotel），出席由投资银行高盛（GoldmanSachs）主办的会议，BBC引述与会者说法，黄仁勋也在会议现场谈及考克森的言论，并当场反驳其内容不实。

部分评论者直指 Anthropic 制造恐慌，意图借此推动监管，进而排除竞争对手，让自身与 OpenAI 垄断市场。

投资公司 Altimeter Capital 负责人葛斯特纳（BradGerstner）在网络上张贴黄仁勋在会议上的照片，并指责考克森的言论是“荒谬的夸大其词”。

AI 平台 Hugging Face 执行长德朗格（Clement Delangue）也发表了看法，英伟达上周宣布将收购Hugging Face，而该平台今年稍早曾遭到 OpenAI 代理人的骇客攻击，引发对 AI 安全的强烈抗议。他在 X上写道：“抱歉，但向雅各（考克森）询问 AI灭绝风险，就像向冷气维修工询问气候变迁一样。并非说这不重要或绝对错误，但我们该保持客观视角。”

福斯新闻则点出，一些批评人士认为，Anthropic 和 OpenAI 寻求政府监管，是为了冻结它们相对于其他公司已经拥有的巨大优势。白宫前AI事务主管萨克斯（DavidSacks）发文质疑两家公司，“别再假装需要获得别人的许可了，也别再假装放慢脚步的动机完全是出于利他。如果你们的产品导致了真正具破坏性的网络攻击，你们将面临巨大的产品责任风险。”