马斯克，怎么突然关心起核弹了？
9月15日的一场活动上，马斯克把AI和核弹放进了同一句话。
“如果AI能够控制军事系统，并发射核弹，那就太糟糕了。”
| 现场有人提醒他，核武相关系统与互联网物理隔离，并没有连在网上。马斯克又回答：“话虽如此，但我总觉得它们还是会不时进行软件更新。”
这句话听起来像一则世界末日冷笑话。人类好不容易把核武器锁进地下掩体，最后发现，末日可能是顺着系统更新二进去的。
但真正值得聊的，并不是马斯克懂不懂核武系统，而是他为什么偏偏举了核弹？
他没有讨论AI写错一封邮件，没有讨论聊天机器人胡说八道，也没有讨论多少工作会被替代。他直接跳到了人类能够想象的最坏结果。
这是一个非常有效的政治动作。
| 因为核弹在这里不是武器，是谈判筹码。
▲ 此图由AI辅助制作
核弹不负责证明
马斯克没有给出AI控制核武器的概率，也没有说明这种情况会经过哪些环节。他只提供了一个结果：AI可能发射核弹。
| 在普通讨论里，这种论证并不完整。在政治谈判里，却已经足够了。
说AI可能写错报告，对方会要求看准确率；说AI可能误导消费者，对方会要求看投诉率；说AI可能发射核弹，会议通常会直接进入下一项议程：我们应该采取什么措施。
| 因为核弹拥有一种特殊的语言能力。只要出现在句子里，有关概率的争论就会自动屏蔽，而有关后果的讨论则会自动排在主位。
极端风险的政治价值，从来不取决于发生概率有多高。真正起作用的是，没有人愿意承担判断错误的代价。
假如有人反驳马斯克，说AI发射核弹的可能性极低，他立刻会面对另一个问题：你愿意为这个“极低”签字吗？
必然无人愿意。
| 这便是不可逆风险的特殊之处。马斯克只需证明存在一种可能，反对者却要证明这种可能永远不会发生。前者需要一个故事，后者需要上帝的担保……
一句话撬开一间会议室
国际关系研究里有一个概念，叫“证券化”。
| 一个议题的性质，并不完全由议题本身决定。政治人物可以通过语言，将普通问题描述为生存威胁。一旦公众接受这种描述，原本难以通过的干预措施便获得了正当性。
例如，气候变化可以从环境问题变成国家安全问题；供应链可以从商业效率问题变成经济安全问题；AI也可以从一场技术竞赛变成人类能否保住最终控制权的问题。
马斯克提到核弹，正是完成了类似的转换。
| 原本行业需要讨论的是企业责任、产品规范和行业自律。核弹一出现，参加会议的人便换了。监管机构、军方、情报部门和国家安全顾问开始入场。会议室的安全等级提高了，尽管咖啡大概还是原来的咖啡。
而反对AI独立发射核武器，几乎不会付出任何政治成本。不会人会傻乎乎地站起来说：不妨让模型试试看……
因此，马斯克选择了一个最容易形成共识的极端事例。
共识早一步形成，谈判也就有了起点。
世界末日，是把万能钥匙
政治谈判和菜市场并不完全相同，但第一口价同样重要。
| 如果AI治理的讨论从“模型偶尔会犯错”开始，严格监管就会容易显得昂贵；但倘若话题讨论从“模型可能引发核战争”开始，审查、许可、强制评测和人类最终授权都会显得十分温和。
这就是锚定。
马斯克先将参照物放在人类灭亡的位置上，随后出现的任何限制，都像是一笔可以接受的小额保险费。
这套方法还有一个额外效果：改变“不行动”的含义。
| 没有核弹的时候，反对监管可以被描述为鼓励创新。核弹进入画面以后，反对监管便可能被解释为拿人类命运冒险。政策本身尚未改变，拒绝政策的道德成本已经提高了。
马斯克甚至不必提出一套完整方案。他只需把最坏结果搬进房间，其他人便会主动讨论门锁、钥匙和消防通道。
这也是极端案例最适合政治传播的地方。复杂风险需要上百页报告，而“世界末日”只需要一句话。
红线内也有营业区
但红线，从来不只是规定哪里不能去、拿些不能碰。
| 当社会同意“AI不能拥有核武器发射权”，红线以内的大量应用也会获得某种默认合法性。比如，情报整理、行动推演、风险评估、指挥辅助……那就都可以继续讨论。
核按钮被圈成禁区以后，其他军事AI应用反而像拿到了通行证。
这与马斯克的商业位置恰好重合。
| 2025年，xAI宣布推出面向美国政府的产品，并获得一份上限为2亿美元的美国国防部合同。公司同时表示，将为国家安全客户提供定制模型，并让相关模型进入机密及受限环境。
所以马斯克并没有站在军事AI的大门外警告里面危险。他已经拿着“访客证”站在楼里，然后提醒所有人，最里面那扇门千万不要打开。
这个位置很讲究。
AI可以帮助军方看得更快、算得更多、判断得更早，但最后一个动作仍由国家完成。
描述灾难，与规则制定
当然，仅仅将马斯克的发言完全理解为商业算计，也不准确。
他确实长期担心AI失控。早在2023年，马斯克就签署公开信，呼吁暂停训练比GPT-4更强的AI系统，为安全规则留出时间。
只不过，政治中最有效的话，往往不需要在真诚和利益之间二选一。
| 马斯克可以真心担心核弹，也可以让这份担心服务于xAI。两件事甚至会彼此加强：担心得越具体，他在监管谈判中的可信度越高；距离军事系统越近，他描述风险时越像一个知情人。
这里隐藏着另一种权力。
| 通常情况下，企业是被监管者。但前沿技术的监管者很难独立理解技术，只能不断向企业寻求解释。谁最早、最生动地描述风险，谁就更容易从接受规则的人，变成参与起草规则的人。
马斯克谈论核弹，争取的也许正是这种身份。
他不只告诉政府AI可能造成什么，还在暗示政府应该向谁咨询、应该在哪里画线，以及哪些用途仍可继续。
一颗尚未被AI控制的核弹，已经替xAI打开了一间政策会议室。
| 马斯克关心AI风险已经很多年。此次真正缩短的，是xAI与军事体系之间的距离。同一句警告从普通企业家嘴里说出来，是对人类命运的担忧；从军方供应商嘴里说出来，则开始具有划分市场与权力边界的能力。
这也正是这件事最耐人寻味的地方。
马斯克没有用核弹解释AI。他用核弹提高了AI监管谈判的底价。他选择了一个最遥远、最极端、最难发生的场景，却因此让许多更近、更现实的规则显得顺理成章。
| 这或许是AI时代最现实的一种新型权力结构：国家掌握核按钮，科技公司却掌握解释AI距离按钮还有多远的专业知识。监管者越依赖企业理解风险，被监管者就越容易进入规则内部。
马斯克借一颗核弹争取的，正是对“安全”的定义权。核弹没有因此离AI更近，xAI却可能离规则更近。