AI失控，反噬开始南风窗

近期，中国开源模型在美国频繁引发热议。7月28日，月之暗面发布Kimi K3的模型权重、技术报告，同时开源其模型训练的关键Infra技术。

一位博主如此表示：知道为什么Anthropic讨厌开源AI吗？Kimi K3免费且可下载，让他们1万亿美元的估值毫无意义。

稍早前的7月21日，另一款来自中国的开放权重模型，智谱开发的GLM-5.2，也曾激起千层浪。

起因是一起AI安全事件。在一次内部测试中，美国多个前沿模型为了完成测试目标，越过测试环境，找到了进入外部网络的办法，并影响到AI开源社区Hugging Face真实运行中的部分系统。

简单来说，这是一起AI自主突破沙盒隔离的“失控出逃”：模型自行推断出Hugging Face可能存在测试相关的答案，为了抄小抄，利用漏洞主动发起了攻击。

OpenAI将此次事件定性为“前所未有的网络安全事件”，涉及前沿级别攻击能力，并感谢HuggingFace的合作

随后，Hugging Face证实，这次入侵由一个自主AI智能体系统“端到端”驱动；OpenAI也确认，相关活动来自GPT-5.6 Sol和另一款尚未发布的更强模型。

事发后，Hugging Face先调用一款美国头部AI公司的前沿模型协助分析，但请求均被拦截，转而在内部硬件上运行GLM-5.2，成功阻断了此次攻击。

“中国模型救场”的故事，固然令人振奋，但AI安全问题同样值得警惕。

相关模型的逃逸，并不意味着AI真的觉醒了，但问题的确正在升级——前沿模型已经能在给定目标下，自行拆解任务、寻找路径，并影响真实系统。

比起中国AI对实用主义和性价比的极致追求，历来，美国的AI巨头笼罩着一种“创世论”叙事——一边渲染AI觉醒的末日恐慌，一边强化自身执剑人的正当性，似乎只要由他们所掌控，AI就能带领人类走向乌托邦。然而，这次前沿模型在自主驱动下影响真实系统的失控事件证明，这种技术神话正在反噬其身。

《黑客帝国》剧照

围绕AI产生的讨论一直都很复杂。有人积极拥抱AI，资本和企业拼命投入；但与此同时，反AI和怀疑AI的声音也在扩大。很多人并不是单纯反对技术本身，而是反感AI正在被科技精英推向全社会，富豪们赚得盆满钵满富可敌国，而风险和成本却落到更广泛的人群身上。

于是，社会和普通人不得不思考：当人类注定无法回到没有AI的过去，我们迫切地需要在非人智能出现后，重新讨论责任、边界和人的位置。

人工智能的神话，不只建立在技术能力上，也建立在对“执剑人”的想象上。

过去几年，硅谷讲述AI风险时，有一个微妙之处：它一边强调AI太危险，一边把危险转化成由自己掌握技术的理由。因为AI可能改变人类命运，所以它不能落到“不负责任的人”手里。

这是一套很有吸引力的叙事，公众未必理解大模型如何训练，但人们相信那些站在最前沿的科学家和科技精英，会替人类守住底线。

现在开始松动的，正是这种信任。

2026年4月，《纽约客》发布3万字长报道，剑指山姆·奥特曼，直接发问：他是否值得信任？这个问题看起来是在讨论一个CEO的个人品格，实际上关系到OpenAI这类公司的特殊位置。

OpenAI最初以非营利、开放和“造福全人类”为名成立，它主张的理念是：如果通用人工智能终将到来，那么最好由一个以公共利益为使命的组织来开发，而不是由少数商业巨头或国家机器垄断。

OpenAI官网上的简介/图源：Unsplash

但后来，这家公司成为全球估值最高、商业化速度最快的AI公司之一。2023年董事会罢免奥特曼的风波，已经让外界看到它内部治理的混乱。

马斯克后来与奥特曼围绕OpenAI使命展开的诉讼，也把这个问题摆到台前：一个以公共利益之名诞生的组织，究竟在什么时候变成了资本和巨头竞逐的核心资产？

更讽刺的是，马斯克也不是一个纯粹的批评者。他一边警告AI风险，一边创办xAI加入竞赛。但这恰好说明AI行业的吊诡：最常谈论风险的人，往往也是最积极下注的人。

7月15日，Google DeepMind研究员Alex Turner的离职，则也将这场信任危机再度推到了台前。离职后，他一篇长文，揭露了谷歌如何一步步向五角大楼妥协，最终签下一份“毫无红线”的军事AI协议。此外，他还点名批评谷歌核心高层、满嘴AI伦理的学术泰斗，在利益面前尽显虚伪。

Turner的离职，则源于今年1月两起平民死亡案件。当时，美国国土安全部下属部门ICE特工在街头枪杀了两名平民，Renée Good和Alex Pretti，引发全美舆论震荡。谷歌，正是国土安全部的云服务供应商。

1月23日，人们在美国明尼苏达州明尼阿波利斯参加街头示威活动/图源：新华社

良知告诉Turner，这是错误的，“我开始寻找最有效的方法，试图推动我的公司停止为这些机构提供服务”。但随着五角大楼开始施压AI供应商，要求签署不限制用于杀人机器人或大规模监控的军事AI协议，Turner发起的“抵制行动”很快扩大，试图阻止谷歌签这样一项不道德的军事协议。

但显然，这种尝试失败了。

曾奉行不作恶的谷歌，在技术与军事问题上，有过明确原则。2017年，美国国防部启动军事人工智能项目“Project Maven”，当时，谷歌是技术合作方之一，这引发谷歌员工的广泛抗议，谷歌于是发布AI原则，承诺不开发主要用于造成伤害的武器，也不开发违反国际规范的监控技术。然而，到了到2025年，谷歌更新AI原则，删除了对武器和监控的明确禁止性表述。公司高层解释说，AI已经进入全球竞争，民主国家和企业需要合作，确保技术服务国家安全。

Turner的离职，正发生在这场博弈之中。他曾在谷歌内部推动军事AI红线，要求公司明确拒绝无人类控制的致命武器和大规模监控；也曾在参加国际人工智能安全与伦理协会主办的会议时，游说协会领导层采取行动。按照他的说法，这些努力都没有得到有效回应。

7月15日，Google DeepMind研究员Alex Turner宣布离职

谷歌签约后，他选择离开。

而他的离职，也给外界带来一个警示：军事AI争议的意义，不只在于它涉及战争。它更像一次压力测试：当AI进入最需要划定红线的领域，那些长期讨论AI伦理和安全的人，能不能守住最后的底线？

这比“AI是否会突然觉醒”更接近当下的真实问题。真正的失控未必发生在某个模型拥有自我意识的时刻，也可能发生在那些看起来更平常的时刻——比如，一份商业合同的签署。