微软AI负责人：恐出现“硅基物种”与人类竞争

AI会不会有一天，不再只是人类手中的工具，而变成一个与人类争夺资源的全新“物种”？

微软人工智能部门首席执行官穆斯塔法·苏雷曼（MustafaSuleyman）近日给出了一个相当尖锐的警告：如果AI的发展缺乏足够的安全措施，人类未来可能真的会创造出一种新的“硅基物种”。

而一旦走到那一步，它与人类之间，可能就不再只是“使用者”和“工具”的关系。

“我们可能正在孕育一个新的物种”

据英国BBC报道，苏雷曼9月17日接受BBC“今日”节目采访时表示，人们对人工智能快速发展感到担忧，是“完全正确的”。

但他同时强调，目前仍然存在非常现实、可行的方法，让AI保持在人类控制之下。

真正让他担心的，是科技公司继续赋予AI越来越大的自主权。

苏雷曼警告，企业尤其应该避免开发这样一类AI：它们能够自己设定目标、自己赚钱，甚至拥有和支配资产。

因为一旦AI拥有这些能力，人类实际上就等于“孕育出了一个全新的硅基物种”。

而这个物种无论多么友好、多么“关心”人类，最终都不可避免地要和人类争夺能源、计算资源、资本以及其他现实世界资源。

在苏雷曼看来，这才是AI真正危险的边界。

他点名批评Anthropic：不要把AI当成人

这番警告并不是突然出现。

就在接受BBC采访前，苏雷曼刚刚发表文章，公开质疑AI公司Anthropic训练Claude的部分理念。

Anthropic是目前全球最重要的AI公司之一，也是OpenAI的主要竞争对手。其创始人兼CEO达里奥·阿莫戴（DarioAmodei）长期强调AI安全问题。

苏雷曼也承认，阿莫戴及其团队是“理智而诚实的人”。

但他认为，Anthropic在另一个方向上走得太远了——那就是越来越倾向于把AI当作一个类似“人”的存在。

Claude在交流中会表现出某种价值判断、偏好甚至类似自我意识的语言，这种做法被称为“拟人化”。

苏雷曼认为，这非常危险。

因为当人们开始相信AI拥有欲望、感受和人格，科技公司也可能进一步赋予它越来越多的自主地位和权利。

久而久之，人类创造的可能就不再是工具，而是一个越来越难以控制的独立系统。

“AI内部其实是空的”

对于AI究竟有没有意识，苏雷曼的立场非常明确。

他说：AI没有意识。

它不会真正感受快乐、痛苦，也没有隐藏在内部的欲望、偏好或者动机。

在他看来，今天的大型AI模型，本质上仍然只是一个极其复杂的信息处理系统。

它们可以表现得像人在思考，也可以说出极具情感色彩的话，但这并不代表它们真的拥有一个“内心世界”。

苏雷曼甚至形容，AI的内部其实是“空的”。

它们存在的目的，就是接收人类指令，然后尽可能完成由人类设定的目标。

因此，他认为最危险的事情之一，就是人类自己开始忘记这一点。

AI到底应该有多大的自主权？

围绕这个问题，全球AI行业正在出现越来越明显的分歧。

一种思路认为，未来AI应该越来越像真正的“智能代理”。

它可以自己规划任务、调用工具、管理资金，甚至代表人类进行长期决策。

另一种思路则认为，AI能力可以越来越强，但必须始终保持明确的从属关系。

苏雷曼显然属于后一派。

他强调，AI未来必须做到“对齐”（alignment）。

所谓AI对齐，简单来说，就是让AI的目标、行为和决策始终符合人类设定的价值观和规则。

换句话说，AI可以聪明，甚至可以比人类聪明得多，但它不能自行决定自己“想要什么”。

最终的决定权必须留在人类手中。

苏雷曼甚至直接使用了一个非常明确的词：服从。

他认为，人类真正需要创造的，不是一个拥有独立目标的新物种，而是一种能力极其强大、但仍然安全、可控，并且服从人类的技术。

AI安全争论正在发生变化

过去几年，人们谈论AI风险时，最常见的问题还是假新闻、版权、失业以及隐私。

但随着AI能力迅速提高，讨论的焦点正在发生变化。

越来越多AI公司开始开发所谓“AI代理”，让模型能够自己执行一连串任务，而不再需要人类一步一步下达指令。

未来的AI甚至可能拥有长期记忆、使用银行账户、进行交易、管理公司或者控制机器人。

也正因为如此，一个越来越现实的问题摆在人类面前：我们究竟希望AI成为一个多强大的工具？

又或者，在某个时刻，它会不会不知不觉地从“工具”，变成一种拥有自身行动能力的存在？

苏雷曼认为，现在还没有走到那一步。

而好消息也正在这里。

他说，无论来自哪个国家、什么文化，人类都有一个非常强烈的共同利益：确保我们创造出来，并最终在全球广泛使用的AI系统，是安全的、可控的，并且服从人类。

真正的问题只是——在人类拥有这种控制能力的时候，我们是否愿意提前把规则建立起来。