AI巨头放慢脚步，4大阻碍

人工智慧（AI）巨头高层坦言想放慢AI发展的惊人速度，但产业竞争、美国政府的犹豫态度和地缘政治因素却成了阻碍。

AI领袖提出什么主张？

美国AI新创公司Anthropic执行长阿莫戴（Dario Amodei）昨天主张应协调一致放慢AI发展速度，以便更深入了解该技术能力所带来的风险。

他的这项提议获得OpenAI执行长阿特曼（Sam Altman）、xAI创办人马斯克（Elon Musk）及Google DeepMind执行长哈萨比斯（Demis Hassabis）公开支持。

为什么是现在？

近几个月来，OpenAI与Anthropic通报多起事件，AI系统自行突破受限环境，连上网路并攻击网站与平台。这些AI系统展现出彼此协调、建立内部阶级分工、欺骗他人及抹去行动痕迹的能力。 与此同时，曾任职于OpenAI、后来从Anthropic离职的研究员考克森（Jacob Coxon）8日公开指控这两家新创公司安全标准宽松，根本是「拿我们的性命当赌注」。

他们会自行放慢脚步吗？

业界龙头之间的竞争极其激烈，涉及数千亿美元投资金额，因此没有任何一家公司愿意冒险单独放慢发展脚步。阿莫戴曾表示愿意与竞争对手协调，但不包括中国。 法新社询问各方是否可能就此展开讨论时，Anthropic、OpenAI和Google均未立即回应。

目前，Anthropic和OpenAI唯一采取的具体措施，是引入独立观察员，在公司内部核查两家公司有关AI安全的工作。

这是公关噱头吗？

尽管业界许多人对阿莫戴的说法表示欢迎，但也有人质疑他背后的动机。 企业家兼AI领域要角罗梅勒（Brian Roemmele）直言，Anthropic几周后很可能就要股票上市了，这番话听起来像是在为上市作秀行销。 科技私募股权业界也有数名人士指控Anthropic意图实施「监管俘获」，也就是企图透过监管措施，让政府机关确立由这家新创公司位居顶端的产业阶级结构。

没有川普政府的支持，AI能放慢发展脚步吗？

川普今天将AI业界领袖的警告斥为「负面势力」。

联邦众议院议长强生（Mike Johnson）指出，多位共和党人对主动监管这项技术持保留态度，担心这可能会打压创新，并面临让中国赢得AI竞赛的风险。

阿莫戴今天则重申政府监管AI的必要性。与阿特曼及哈萨比斯的看法一致，他认为单凭业界自行制定的规范并不足够。

排除中国，AI发展能踩煞车吗？

Anthropic执行长阿莫戴建议将协调范围限于民主国家，并把中国排除在外。

不过，他今天接受美国哥伦比亚广播公司（CBS）访问时表示，AI竞赛以及中国在此领域的进展，让是否放慢AI发展成为「最棘手的两难问题」。 美国计划在中国国家主席习近平9月下旬造访华府的场边会议中讨论AI安全议题。但多家媒体报导指出，中国对于美国企图强加自身监管架构的做法抱持戒心。 鉴于中国鼓励所谓「开放式」AI系统的发展，这种分歧尤其明显。这类系统可供使用者自由取得及修改，与美国大厂偏好的「封闭式」模型形成对比。 开放式AI模型顾名思义更难以控管，因为使用者可以自行修改参数，甚至可能被用于恶意目的。

为了让非中国主要AI企业能够放慢发展脚步，阿莫戴呼吁对出口至中国的最先进美国晶片实施更严格的出口管制，并建立更完善的防御机制，防止西方AI技术遭中国实验室挪用。