微软AI负责人：恐出现“硅基物种”与人类竞争

"A new silicon species which will no doubt compete with us for resources." That's what Microsoft Head of AI Mustafa Suleyman says could happen if we continue creating AIs that are more autonomous. He says it's right for people to be concerned or alarmed. pic.twitter.com/8kIj3ah9Na

— BBC Radio 4 Today (@BBCr4today) September 17, 2026

AI会不会有一天，不再只是人类手中的工具，而变成一个与人类争夺资源的全新“物种”？

微软人工智能部门首席执行官穆斯塔法·苏雷曼（Mustafa Suleyman）近日给出了一个相当尖锐的警告：如果AI的发展缺乏足够的安全措施，人类未来可能真的会创造出一种新的“硅基物种”。

而一旦走到那一步，它与人类之间，可能就不再只是“使用者”和“工具”的关系。

“我们可能正在孕育一个新的物种”

据英国BBC报道，苏雷曼9月17日接受BBC“今日”节目采访时表示，人们对人工智能快速发展感到担忧，是“完全正确的”。

但他同时强调，目前仍然存在非常现实、可行的方法，让AI保持在人类控制之下。

真正让他担心的，是科技公司继续赋予AI越来越大的自主权。

苏雷曼警告，企业尤其应该避免开发这样一类AI：它们能够自己设定目标、自己赚钱，甚至拥有和支配资产。

因为一旦AI拥有这些能力，人类实际上就等于“孕育出了一个全新的硅基物种”。

而这个物种无论多么友好、多么“关心”人类，最终都不可避免地要和人类争夺能源、计算资源、资本以及其他现实世界资源。

在苏雷曼看来，这才是AI真正危险的边界。

他点名批评Anthropic：不要把AI当成人

这番警告并不是突然出现。

就在接受BBC采访前，苏雷曼刚刚发表文章，公开质疑AI公司Anthropic训练Claude的部分理念。

Anthropic是目前全球最重要的AI公司之一，也是OpenAI的主要竞争对手。其创始人兼CEO达里奥·阿莫戴（Dario Amodei）长期强调AI安全问题。

苏雷曼也承认，阿莫戴及其团队是“理智而诚实的人”。

但他认为，Anthropic在另一个方向上走得太远了——那就是越来越倾向于把AI当作一个类似“人”的存在。

Claude在交流中会表现出某种价值判断、偏好甚至类似自我意识的语言，这种做法被称为“拟人化”。

苏雷曼认为，这非常危险。

因为当人们开始相信AI拥有欲望、感受和人格，科技公司也可能进一步赋予它越来越多的自主地位和权利。

久而久之，人类创造的可能就不再是工具，而是一个越来越难以控制的独立系统。

“AI内部其实是空的”

对于AI究竟有没有意识，苏雷曼的立场非常明确。

AI没有意识。

它不会真正感受快乐、痛苦，也没有隐藏在内部的欲望、偏好或者动机。

在他看来，今天的大型AI模型，本质上仍然只是一个极其复杂的信息处理系统。

它们可以表现得像人在思考，也可以说出极具情感色彩的话，但这并不代表它们真的拥有一个“内心世界”。

苏雷曼甚至形容，AI的内部其实是“空的”。

它们存在的目的，就是接收人类指令，然后尽可能完成由人类设定的目标。

因此，他认为最危险的事情之一，就是人类自己开始忘记这一点。

AI到底应该有多大的自主权？

围绕这个问题，全球AI行业正在出现越来越明显的分歧。

一种思路认为，未来AI应该越来越像真正的“智能代理”。

它可以自己规划任务、调用工具、管理资金，甚至代表人类进行长期决策。

另一种思路则认为，AI能力可以越来越强，但必须始终保持明确的从属关系。

苏雷曼显然属于后一派。

他强调，AI未来必须做到“对齐”（alignment）。

所谓AI对齐，简单来说，就是让AI的目标、行为和决策始终符合人类设定的价值观和规则。

换句话说，AI可以聪明，甚至可以比人类聪明得多，但它不能自行决定自己“想要什么”。

最终的决定权必须留在人类手中。

苏雷曼甚至直接使用了一个非常明确的词：

他认为，人类真正需要创造的，不是一个拥有独立目标的新物种，而是一种能力极其强大、但仍然安全、可控，并且服从人类的技术。

AI安全争论正在发生变化

过去几年，人们谈论AI风险时，最常见的问题还是假新闻、版权、失业以及隐私。

但随着AI能力迅速提高，讨论的焦点正在发生变化。

越来越多AI公司开始开发所谓“AI代理”，让模型能够自己执行一连串任务，而不再需要人类一步一步下达指令。

未来的AI甚至可能拥有长期记忆、使用银行账户、进行交易、管理公司或者控制机器人。

也正因为如此，一个越来越现实的问题摆在人类面前：

我们究竟希望AI成为一个多强大的工具？

又或者，在某个时刻，它会不会不知不觉地从“工具”，变成一种拥有自身行动能力的存在？

苏雷曼认为，现在还没有走到那一步。

而好消息也正在这里。

他说，无论来自哪个国家、什么文化，人类都有一个非常强烈的共同利益：

确保我们创造出来，并最终在全球广泛使用的AI系统，是安全的、可控的，并且服从人类。

真正的问题只是——

在人类拥有这种控制能力的时候，我们是否愿意提前把规则建立起来。