梅宏院士给AI划的六条边界

一、先从一个问题说起 2026年8月27日，贵阳，数博会"数字政府"交流活动。一位院士在台上问了个问题：当前的数据运用全部归到大模型，对还是不对？然后他自己给出了回答，并附了一个例子——过去十几年，中国老百姓感受最深的数据成果是什么？是办事不用再跑窗口、不用在各个部门之间来回折腾。这些应用是不是大模型？都不是，它只是把数据关联起来就能用好。说这话的人叫梅宏。中国科学院院士，发展中国家科学院院士，欧洲科学院外籍院士，ACM/CCF/IEEE Fellow，中国计算机学会第十二届理事长，北京大学教授、信息科学与技术学部主任。 1992年，他到北京大学做博士后，师从中国软件工程的奠基人杨芙清院士，随后作为核心骨干和技术负责人之一，参加了杨芙清主持的国家"八五"重点科技攻关项目——青鸟工程。这是中国软件工程从跟随走向自主体系的关键阶段。北京大学上海校友会AI与WebX协会为什么要讲他？理由很简单：这一轮热潮里，绝大多数人在问"能不能"，很少有人问"该不该"。他是极少数一开始就问"该不该"的人，而且从2020年到2026年，他一直在问同一个问题，只是每年都问得更具体。这份梳理覆盖了他近年在 AI 议题上的主要公开判断。读完你会发现，这些观点不是零散的评论，而是一套彼此咬合的完整认知体系。

二、他的起点：一个软件工程学者的眼光这个领域的人，出身各不相同：有从数学来的，有从视觉与模式识别来的，有从机器人与控制来的，有从机器学习来的。梅宏是从软件工程来的。软件工程这门行当，核心命题始终只有一个：如何可靠地构造大型复杂系统。但要说明的是，这只是他治学的一条主线，远不是他的全部。他身上有典型的"理工男里的文艺青年"底色。大学期间，他是学生科协文学社社长，组织过诗社；能熟背《唐诗三百首》；《水浒传》108将的绰号和星座，他能脱口而出。2018年央视《开讲啦》的舞台上，有青年代表现场爆料说他唱功了得，享有"民歌小王子"的名号，是学院新年晚会的常驻嘉宾——主持人撒贝宁听他唱完后的评价是："我第一次听科学家把歌唱得这么好听。" 而文学的痴迷并不妨碍他在理工科上的锋利：少年时他一度立志当文学家，上课前半截听讲、后半截偷看小说，数理化成绩却始终名列全县前茅，1980年高考成为全县理科状元。人文的滋养，或许也解释了为什么他的技术判断常常带着一种工程师里少见的宽度——他不只用技术尺度衡量技术，也不只用技术尺度衡量人。几十年下来，软件工程验证了一条朴素经验：一个系统能不能用在关键场合，不取决于它最聪明的那部分能做什么，取决于它的可靠性、可维护性、可解释性、可演化性。所以同样是看大模型，别人看到的是"它能写诗能编程"，他第一眼看到的是那句：就当前大语言模型的技术路线而言，"黑盒"导致的不可解释性是其最大"罩门"。同一件事，有人看到能力，他看到工程风险。这个视角差异，是理解他后续所有判断的钥匙。三、他的地基：软件定义，本质是"为X造一个操作系统" 要理解他对 AI 的判断，必须先理解他的原创命题——这是他的地基。他长期主张"软件定义"，并给过一个极精炼的表述：无论是软件定义的网络、软件定义的存储、软件定义的数据中心还是其他"SDX"，就其技术本质而言，均意味着构造针对"X"的"操作系统"。实现路径只有两条：把传统"一体式"硬件设施拆成"基础硬件虚拟化及其API + 管控软件"两部分，即硬件资源的虚拟化，与管理任务的可编程。而这两条，恰恰一直是操作系统设计的核心原则。他还做了一个至今很多人没分清的切分：软件化是"把事情做成软件"，软件定义是"把资源做成可编程的"。前者产出一个应用，后者产出一个平台。绝大多数企业的数字化做的是前者，却期待后者的效果——上了几十套系统，然后抱怨数据打不通、流程改不动。原因不在系统买少了，在于从来没人做过资源虚拟化和 API 化。这条路的终点，他起了个名字：泛在操作系统。这个概念目前已得到官方认可——由他和团队率先提出的"泛在操作系统"，已被全国科学技术名词审定委员会收录为基于重大科技创新的体系化新名词。他对它的定义是：人类正在进入"人机物"三元融合的万物智能互联时代，操作系统要从管理"单台计算设备"，迈向管理"人机物多类资源及其融合"。他为此提炼的共性能力是四个字：感、联、知、控。请记住这四个字，后面它会再次出现。四、他对AI的第一判断：本质没跳出概率统计先看他给 AI 的定性。 2025年4月，他在北京大学《彤程材料科学论坛》的报告中说得很直接：当前基于深度学习的人工智能技术，从基本原理来看，仍没有跳出"概率统计"这个框架，尽管在诸多领域展现出强大的能力，但远未达到真正的认知智能。他给这件事打过一个很有画面感的比方——当前 AI 的本质是"数据驱动的智能、计算实现的智能"，即"数据为体、智能为用"，犹如燃料与火焰的关系：燃料越多，火焰越大；燃料越纯，火焰越漂亮。他对 AI 的整体阶段判断是：感知能力已超越人类，但认知和行为能力与人类的差距还甚远。注意这个划分。它不是随口的保守表态，而是贯穿他所有观点的一条基准线：可以接受机器在感知智能上超过人，但要慎之又慎的是认知智能。五、他给大模型的最高评价，和最冷静的边界很多人以为他一直在泼冷水。不是。他对大模型的正面评价，其实给得相当高："大语言模型，乐观判断，也许会成为继计算机、互联网之后，计算科学发展史上的第三大里程碑。" 但紧接着就是边界。第一层边界：它是压缩，不是创造。就这个意义而言，大语言模型可被视为是已有"语料"压缩而成的"知识库"。基于当前的技术路径，大模型不可能"无中生有"，做出超越人类预期的事情。学界另有著名命题：理解就是压缩。模型越懂这份数据，就压缩得越好。两句话并不冲突，因为在回答不同的问题——一个问"理解能不能被度量"，答案是能，用压缩率；他问"压缩能不能产生新知识"，答案是不能，因为压缩的定义就是"用更短的方式表示已有的东西"。于是得到一个很漂亮的调和：压缩证明了模型理解它读过的东西；但恰恰因为它是压缩，它无法产生它没读过的东西。第二层边界：新组合可能是知识，也可能是幻觉。大模型可以产生基于内容"基元"的新组合，虽然它本身并不知道该"组合"的含义。这种组合有可能是某种"知识"，也有可能是"幻觉"，这就需要人类专家去验证审核了。模型能生成新组合，但判断不了这个组合是知识还是幻觉——因为判断需要一样模型内部没有的东西：与现实的对照。这恰好定义了人在这条流水线上不可让渡的位置：不是生成，是验证。第三层边界：这条路走不到 AGI，而且有时间表。我认为不可能，现在的大模型不可能通往AGI。这是其技术实现的底层逻辑决定的。很可能就在几年之内。这里我指的是大模型能力的天花板，模型产出内容的质量还是会有不断改善。基于这个判断，他有一个非常实际的结论：当前大模型的竞争已经成为"数据工程"的竞争。而对学术界来说，"数据工程"的定位与学术界探索基本原理的使命并不相符——这是他反复提醒学界的一点。六、同一句话，他讲了三年：泡沫太大 → 不要唯大模型论这是整篇梳理里最有意思的一条脉络。 2024年11月，第二届中国科技伦理高峰论坛。他给当时的 AI 下了三条诊断：其一，泡沫太大。仍处于技术成熟度曲线的高峰阶段，喧嚣埋没理性，需要一个冷静期。其二，以偏概全。对成功个案不顾前提地放大、泛化，过度承诺。其三，期望过高。用户神化 AI 的预期效果，提出难以实现的需求。还有一句他自己的日常困扰：通过算法，平台可以个性化推送内容，但也可能形成用户的信息茧房。我最近最大的困扰就是拿着手机却读不到想读的有价值的内容。请注意，他不是在说技术不够强。他是在说：技术已经足够强，但被用在了错误的目标函数上。 2025年11月，CNCC中国计算机大会。针对当时"谈数据必谈 AI"的现状，他提出不同看法："AI只是处理数据的一种方式，我们已有的处理数据方式还是要持续。" 2026年8月，数博会。同样的判断，终于被他说到了最具体的程度。他给出了对比：所谓判别式模型——那些相对偏小、专门解决识别类问题的模型——在大量具体场景里，实际效果好于大模型。大模型似乎好像领域都能通用，事实上，在很多具体的领域，它的效果不及判别式模型。所以他主张"多元发展"：可视化分析、SQL查询、多模态交互、图学习，以及用符号系统去补神经系统在生成上的不确定性、引入因果学习。大白话版本是那句："我们不需要杀鸡用牛刀。" 从2024年的"需要一个冷静期"，到2025年的"AI只是处理数据的一种方式"，到2026年的"不要唯大模型论"——同一件事，他讲了三年，一年比一年具体。

七、新战场：他把操作系统这套方法，一路推到了具身智能前面埋下的"感、联、知、控"四个字，在这里接上了。 2026年8月28日，数博会DATA之夜，他的报告题目叫《具身智能操作系统》。8月15日，在重庆的 CCF 中国开源大会上，他的报告是《从操作系统视角看具身智能系统》。这正是"软件定义"和"泛在操作系统"那条逻辑的自然延伸：如果要为 X 造一个操作系统，那么当 X 变成机器人时，你需要的就是具身智能操作系统。他的拆解是这样的：具身智能系统由"具身脑"（软件）和"具身本体"（硬件）组成，需要一套能屏蔽下层硬件资源异构性、支撑上层应用开发的操作系统，实现应用和硬件的解耦。从长远来讲，真正的具身智能系统必须是大、小脑的协同，实现感、联、知、控的闭环。他用了个很形象的类比：人去商店买一瓶水，要先明确目标、组织技能，还要借助地图、交通、商店这些公共服务，最后才由身体执行动作——大脑负责想，小脑负责动。而眼下试图直接用大模型去实现"大脑"和"小脑"，他判断面临三道题：模型局限、本体适配、任务执行。他的解法还是那句老话——造操作系统。照他的说法，就是"借鉴操作系统催生庞大计算机产业生态的成功路径"，让具身智能从当下碎片化的全栈定制式项目，走向分工协作、可复用、可规模化的生态。他在 CCF 大会上还有一层更大的判断：这既是技术发展的必然趋势，也是中国在智能机器人领域构建核心竞争力的战略机遇。八、最锋利的一节：AI永远是工具，我们不能主动"让位" 如果说前面是技术判断，这一节是他的立场。就分量而言，这是整篇梳理中最见锋芒的一段。 2025年5月，上海交大一场 AI 主题的研讨会，他的开场白就叫《对当前人工智能热潮的几点冷思考》。 AI的角色过去是工具，无论是现在还是未来，无论它发展到多么强大，仍然应该把它定位于"人类的工具"，是用来帮助我们提升工作效率和质量的工具。AI不能脱离人类的掌控，我们人类更不能主动"让位"。他给这条底线配了一个论证：人类拥有认知能力，是成为地球主人的根本。相比其他生物，人类不是体力最强的，不是跑得最快的，甚至不是感知能力最强的。但人类具备基于归纳和演绎的独特认知能力，加上语言的使用，可以相互交流汇聚群智，因而成为地球的主宰。由此推出三条主张：第一，划定禁区。在这一类研发中，必须维护人的尊严和人类独享的"神经权"。也就是说，在技术领域需要严格限制以替代人的认知能力为目标的技术研发，尤其要严格规范植入式脑机接口类的技术研发。第二，警惕语言的偷换。大多数设计工作都是人类的智力性、创造性活动，是人的智能的体现。如果将计算机辅助设计或 AI 设计也称为"智能设计"，那么——人类的设计又算什么呢？当一个词被专门用来指代机器做的事，人做同一件事就在语言上被降格了。而语言的降格，往往先于地位的降格。最典型的是"人工"这个词：它原本的意思是"人做的"，现在在很多语境里，隐含意思变成了"还没被自动化的"。他甚至对流行词下了重手：我个人也特别不喜欢"硅基生命"之类的提法，说重一点，这是对生命的不尊重。我们不要忘记，真正的生命是地球上的生物，包括动物和植物，而我们人类则是其中的主导者。第三，把话说到底。从人类主体地位的视角出发，为什么要去开发可以替代人类自身认知能力的AI呢？这是对人的权利的侵犯。因此，必须从现在起确保AI发展不会超越人类的控制。九、他心中理想的AI：低熵、高安全、还能"遗忘" 他不止会说"不可以"。关于什么样的 AI 才是他要的，他给过明确的标准。他的"理想 AI"有三重：低熵的——不以计算资源的消耗换取智能，也不以复杂性的提高换取智能。高安全的——模型的输出符合真实情况，生成结果确保对人类无害。不断进化的——具有环境自适应和终生"学习"能力，能不断完善，并具有"遗忘"能力。最后那个"遗忘"很容易被忽略，但对所有做持续学习、做增量训练的人来说，这是极其专业的提醒：一个只会积累、不会遗忘的系统，工程上走不远。在这个判断底下，他对当前路径有个明确的否定：追求规模和资源消耗的"蛮力"训练路径不可持续，而科研应追求简而美的模型。基于 "蛮力"路径不可持续这一判断，他对技术路线有两个主张：关于开源："大语言模型将像互联网一样走向开源。全世界共同维护一个开放共享的基础模型，尽力保证其与人类知识同步。"他坦承这至少也是表达自己的一种期望。关于科研：AI 在科学研究中潜力巨大，但AI应作为科学家的助手，而非共同科学家。科研的核心在于通过不断的探索和验证去伪存真。相应的底线是这句话：不能过度依赖AI工具而失去了人类科研工作者的主体性和创造力，失去人类对科研创新的把控力，这是科研工作者在新时代必须坚守的底线。十、治理：他给出的不是呼吁，是可以写在制度里的清单他的影响可以分三层，第三层最特殊——可执行，不只是呼吁。第一层，技术与工程层：青鸟工程。第二层，理论与话语层：软件定义、泛在操作系统这套概念体系。第三层，伦理与治理的具体建议。他的划分相当具体：基础研究阶段一般不做限制；涉及对人的认知能力调控、违背人的自由意志的研究应列为禁区；在技术和产品应用阶段，根据具体场景及影响来确定。例如大规模远程监控、自主决策的社会评价体系、操纵个人意识和行为并造成个体或他人身体或心理伤害的技术，以及以超越或替代人的认知能力为目标的AI技术研发，应当受到限制。数字技术领域的研究禁区应该建立动态调整机制，适时调整伦理审查的复核清单。一份不会被更新的禁区清单，要么很快过时，要么很快变成形式。"动态调整"这四个字，把伦理审查从一次性的道德表态，变成了一项需要持续维护的工程。他还具体呼吁建立 AI 生成内容的披露标注机制，建立涵盖大模型开发者、创作者、使用者的标注责任机制，并推进相关标准的国际化。

十三、结语他还说过一句话，值得和这篇一起读完：绝大部分"从0到1"的原始创新都不是规划出来的，无前路可寻，基本都是来自基于兴趣去探索未知。中国的科研人员应该培养批判性思维，为人师者也应该抱有共同学习的心态。不怕争论，思维碰撞的火花应该再多一些，别怕走别人没有走过的路。从2020年的泛在操作系统，到2024年的"需要一个冷静期"，到2025年的"我们不能主动让位"，再到2026年的"不要唯大模型论"—— 六年过去，他的判断在变具体，但那个底色从来没动过：热闹归热闹，工程的规矩不能坏，人的位置不能让。蔡元培先生说："合众人之力而营之，文明之事业，始有可言。" 北京大学上海校友会AI与WebX协会愿与各位校友一道，在技术喧嚣处保持冷静，在产业落地处踏实做事。