吴恩达重磅长文:AI对学习是有害的

6点关机公众号 · 经八阕原文

吴恩达教会了 800 万人机器学习是如何运作的。 而他刚刚告诉这些人:AI 对学习是有害的。 先别急着反驳,让我们消化一下这句话。这位大佬是 Google Brain 的联合创始人,曾任百度首席科学家执掌 AI 研究院,把 Coursera 打造成教会半个科技圈写代码的平台,最近又为自己的新个性化辅导公司 LearnVector 融资 1 亿美元。如果说有谁最有资格说“AI 很棒,放心用”,那一定是他。

但他说的恰恰相反。大多数人使用 AI 的方式,正在摧毁那个让他当年脱颖而出的核心能力。 我完整观看了这场深度访谈,帮你省下这一个小时。吴恩达谈到了围绕 AI 监管的人为恐慌、为什么工程师在末日论中依然被疯抢、AGI 对他而言的真正含义,以及他用来判断什么数据绝不进入云端的那条铁律。 以下是 10 个真正重要的洞察。 1. 谁在为 AI 恐慌买单(始于 2 到 3 年前) 每次吴恩达发布关于 AI 的内容,评论区都会沦陷为数据中心和失业的战场。他说,这种恐慌并非偶然,它正在喂养整个科技圈蔓延的裁员陷阱。 这很大程度上是 2 到 3 年前开始的一场不幸的尝试——我认为,是公关和监管俘获(regulatory capture)。 训练一个前沿模型要烧掉数十亿美元。免费开源则会让那些烧了数十亿的公司经济模型崩溃。 吴恩达将当前这波 AI 恐惧追溯到了这笔账上。当开源替代品看起来危险时,那些拥有昂贵闭源模型的公司反而受益——不是因为开源模型更差,而是因为恐慌的公众会推动更严格的监管。更严格的监管保护的是先发者。 他对机制看得很清楚:监管俘获偏袒在位者,惩罚新进入者,让任何人以零头成本开源竞争模型变得更加困难。 下次你看到耸人听闻的 AI 头条时,先问问:你相信它,谁在获益? 2. 从未成立的“核武器”类比 把某样东西比作核武器,人们就不再追问了。吴恩达认为,这正是这种类比的全部目的。 当你把 AI 比作核武器时,恐惧营销就奏效了——但这个类比毫无事实依据。 核武器的存在是为了毁灭。大语言模型写邮件、调试代码、偶尔给你一个平庸的商业点子。 这个类比不是论证,而是一种情绪操控。 吴恩达指出了表象之下的模式:挑出一个 AI 失误,把它放大成趋势——就像当年中国开源了 Opus 级别的智能而天并没有塌下来时,人们选择视而不见。 再散布一个“AI 数据中心正在耗尽水资源”的不实说法。单独看每个故事都很小,但堆叠在一起,它们已经改变了公众对一项大多数人还没认真使用过的技术的感受。 代价不是抽象的。基于恐惧的政策拖慢美国的 AI 应用速度,而更慢的应用意味着更低的竞争力,而不是更高的安全性——这个模式正贯穿今年真正定义 AI 的六大趋势。 3. AI 不会抢走你工作的 30-40% 数学逻辑 “工作末日论”假设 AI 要么 100% 取代一份工作,要么完全不碰。吴恩达说,数学不是这么算的。 AI 可以完成许多工作中 30% 到 40% 的部分。这意味着什么?意味着人类做的那 60% 变得更有价值了——因为这在经济学上叫作“互补品”(economic complement)。 斯坦福的 Erik Brynjolfsson 和 MIT 的 Andy McAfee 两位经济学家将工作拆解为具体任务,而非职位头衔。他们的发现是:AI 承担的是大多数角色中有意义的一部分,而非全部。 这部分变便宜了,并不会让你工作的其余部分贬值。恰恰相反。 当一项工作的某个输入价格下降时,它所依赖的另一个输入——你的判断力——就变成了稀缺资源。经济学家称之为互补品。 吴恩达紧接着补了一个关键点:使用 AI 的人很可能会取代不使用 AI 的人。AI 本身并不准备取代人——至少对大多数工作而言是这样。 4. 软件工程师比以往更忙了(2022 年的陷阱就在这里) 软件工程是受 AI 冲击最深的职业。但那里的职位空缺在增加,不是在减少。 我认识的所有优秀软件工程师都比以往更忙了。 如果 AI 真的在取代开发者,招聘应该萎缩才对。但事实并非如此。吴恩达说,末日叙事与那些以软件为生的公司内部正在发生的事情完全不符。 关键点在于:用 ChatGPT 出现之前的方式写代码,现在是一种负债。这正是导致 2024 年那些年薪 12 万到 20 万美元的 6 类岗位消失的差距所在。AI 已经能完成开发者手工工作的 30% 到 40%。固守旧工作流只会让你比那个让 AI 接手这部分、然后继续前进的人更慢。 大学也落后了。吴恩达说,大多数课程仍在培养学生去胜任 2022 年的工作——也就是旧招聘逻辑失效的那一年——而他们应该为 2028 年做准备。 他对应届毕业生的建议是:课堂上继续学,然后自己通过 Coursera、DeepLearning.AI 或 Udemy 填补 AI 技能的空白——在课程还没跟上的地方自学。 如果你正在自己弥合 2022 到 2028 之间的差距,从这里开始: 2026 AI 工程师路线图:改变你收入的 5 个项目 斯坦福 AI 工程:大多数构建者搞错的 10 堂课 职业“之字形”路径正在 AI 时代胜出:为什么非线性路径创造超额回报 5. 为什么吴恩达说 AI 对学习极其有害(对他自己也不例外) 他创办了两家教育公司。现在他告诉你:不要信任那个支撑他职业生涯的工具——至少在学习这件事上不要。 大语言模型,在最常见的使用方式下,对学习是极其有害的。 学生用 AI 后,作业分数确实提高了。吴恩达说,这就是陷阱。留存率——6 个月后真正重要的东西——反而变差了。 他自己也不例外。吴恩达描述了一次经历:他问 AI 模型一段代码是如何工作的,得到答案,直接上线,然后等到下次需要碰那段代码时,已经完全忘光了。 这个机制有名字:认知卸载(cognitive offloading)。当下高效,长期昂贵——因为你外包出去的东西从未被编码成你真正拥有的技能。 “我们应该停止把 AI 视为对学习有帮助的工具。” 他不是主张在学校禁用 AI。他是在说:目前绝大多数人使用 AI 的方式,恰恰在削弱他们想要培养的那个能力本身。 6. AI 无法复制的人类“上下文优势”(至少几年内不行) 让 AI 模型做头脑风暴,你会得到 1 到 2 个好点子,2 到 3 个平庸的,还有大约 4 个让你怀疑它到底在想什么。 与 AI 相比,人类拥有巨大的上下文优势。 吴恩达对烂点子的解释是:模型从未看到那个告诉你“客户讨厌这个东西”的面部表情。它不知道你老板最看重的优先级是什么,也不知道为什么一个纸面上看起来没问题的方案在你公司就是行不通——那个没说出口的原因。 人们有时把这称为品味或判断力,好像它模糊不清、无法传授。吴恩达不同意。这两个词底层的机制是积累的上下文——模型无法获取的多年情境知识。 这个优势短期内不会消失。“没有人能在几年内弥合这个差距。”这就是为什么 AI 的护城河从来都不是模型本身。 你在特定领域积累的上下文越多,你就越难被替代——无论模型变得多好。这是少数几个随着软件变便宜而真正复利的优势之一。 7. 构建变便宜了,决定构建什么没有 吴恩达大多数周末都会捣鼓点新东西——那更像是用 Claude 经营一家一人公司,而非传统工程流程。他说,难的部分从来不是代码。 构建的成本已经暴跌。因此,挑战正在转向:决定要构建什么。 上个周末,他用一个前沿模型分析自己公司的业务指标——没有拉数据科学家进来,而是根据数据保留策略仔细挑选了模型——一个下午就搞定了。 他称真正的瓶颈为产品管理瓶颈。现在任何人都能快速生成代码。但能自信地说出“我生成的东西到底值不值得做”的人,少之又少。 “速度回答的是你能多快构建。判断力回答的是你是否应该构建。” 他对创始人、工程师和产品人的建议都一样:学 AI,快速构建,多和客户交流,以培养那个决定“什么值得用这个速度去做”的判断力。 如果代码刚变便宜,而你想把它用在值得做的事情上,从这里开始: 如何不写代码构建三个 AI Agent 十亿美元创业公式:为什么 AI 驱动的小团队正在击败巨头 YC 希望你做的 70 个创业点子 8. 新基准线:你团队里的每个人都能构建 构建软件曾经需要一个工程头衔。吴恩达说,这个要求已经悄悄消失了。 每个人用 AI 构建东西正在变得容易得多。 当某件事变得极其容易时,做的人就多了。吴恩达的营销团队写代码。 他的 CFO 写了自动化脚本,扫描文档并标记不一致之处——而不是等着工程师来做。他的招聘团队嵌入真正的工程师来构建复杂的内部工具。 他点名最多的群体是:学会构建的营销人员、招聘人员、HR 专业人员和运营专家——他们完成更多工作,承担更广泛的角色,而且按他的说法,做得更开心。 他的面试标准也随之改变。他不问营销人员会用什么工具,而是问他们构建过什么——和他要求自己的一人公司标准一样。 他的一位营销人员构建了一个桌面应用,在他写作时自动爬取网络上的相关文章。 职位头衔正在成为“谁真正能交付东西”的越来越差的预测指标。这正是非线性职业路径此刻在捕获超额回报的原因。 9. 吴恩达的铁律:什么数据绝不进云端(连超大规模云厂商也不行) 不是每个 AI 问题都是战略问题。有些只是隐私检查清单。 对于真正敏感的东西,我有时会运行本地模型。 吴恩达信任大型超大规模云厂商会遵守其公开的服务条款。他对较小的 AI 公司则直言不讳——其中一些在弹窗里更改了数据保留条款,而大多数用户看都不看就点过去了。 他的个人底线是:重大非公开信息——那种可能影响股价或暴露客户的信息——绝不进入任何云端模型,到此为止。他要么手工处理,要么在本地运行一个永远不会离开自己机器的开源权重模型——这与 AI 安全工作正变成六位数技能背后的谨慎如出一辙。 开源权重模型已经足够好,让这种做法变得切实可行——这也是推动公司转向开源的大经济趋势的一部分。吴恩达提到 Meta 和阿里的 Qwen 系列已经接近前沿质量,同时小到可以在本地运行——不过他很快补充说,排行榜每几周就会变一次。 这条规则对我们其他人同样适用:如果你不会把它通过邮件发给陌生人,就不要把它粘贴到聊天窗口里。 10. AGI 的真正含义(吴恩达说:还要几十年) 黄仁勋说我们已经达到了 AGI。吴恩达说,这完全取决于你用的是哪个定义。 AGI 是能够完成人类能做的任何智力任务的 AI。 按照这个标准,一个 AGI 系统应该能在相当于 5 年学习后写出博士论文,或者在几十分钟练习后学会在陌生的雨林地形中驾驶卡车。吴恩达说,像这样的任务还有一长串 AI 仍然无法触及,他预计需要几十年才能逐一攻克。 他直接点出了激励问题。OpenAI 曾与微软有一项与宣布 AGI 挂钩的财务安排——这个赌注可以追溯到 OpenAI 自己在 2018 年写的 AGI 计划,该协议后来已被重新谈判。只要把定义的门槛降到足够低,你甚至可以声称 AGI 在几十年前就已经实现了。 他的观点不是 AGI 讨论毫无意义,而是:一个人选用的定义,更多透露的是他的激励,而非这项技术的真实状态。 如果你想看更完整的 AGI 时间线辩论,从这里开始: Demis Hassabis 说 AGI 将在 2 到 5 年内到来。这是完整图景 Dario Amodei 说 AGI 还有 1 到 3 年。这是他的完整拆解 Ilya Sutskever 的 AGI 新剧本 这对你意味着什么 贯穿每个章节的模式都是一样的:使用 AI 的成本持续下降,而 AI 还做不到的事情的价值持续上升。 创始人:代码变便宜了——便宜到你可以不写代码就构建你的第一个 Agent。你现在的优势在于决定构建什么,并在规模化之前用客户验证它。不要因为构建变快了就跳过客户对话。 投资人:警惕那些伪装成安全关切的监管布局。最响亮的恐惧运动,往往可以追溯到从相应规则中获益最大的人。 运营者:如果你的团队仍将 AI 技能视为工程部门的专属要求,你就是在浪费产出。营销、财务、招聘和运营现在都能构建——这正是“给你的 Agent 一台自己的电脑而不是一个聊天框”背后的转变。 其他人:注意你日常实际使用 AI 的方式。如果它主要是在生成你随后就忘记的答案,那你就是在优化“作业分数”,而非那些能复利的技能。 值得偷走的 5 条原则 上下文就是护城河。你积累多年的情境知识是 AI 无法快速追赶的东西。有意识地持续构建它。 让构建速度匹配判断力。没有客户接触的快速构建,只会让你更快地到达错误答案。 把 2022 年的工作流视为过期。如果 AI 已经自动化了你正在做的任务,那是向上迁移的信号,不是可以忽视的威胁。 恐慌之前先问谁在获益。基于恐惧的 AI 头条通常可以追溯到某个人的监管或公关利益。 现在就划好你的隐私线。在被迫粘贴会让你后悔的内容之前,先决定什么永远不会离开你的机器。 上下文就是护城河。你积累多年的情境知识是 AI 无法快速追赶的东西。有意识地持续构建它。 让构建速度匹配判断力。没有客户接触的快速构建,只会让你更快地到达错误答案。 把 2022 年的工作流视为过期。如果 AI 已经自动化了你正在做的任务,那是向上迁移的信号,不是可以忽视的威胁。 恐慌之前先问谁在获益。基于恐惧的 AI 头条通常可以追溯到某个人的监管或公关利益。 现在就划好你的隐私线。在被迫粘贴会让你后悔的内容之前,先决定什么永远不会离开你的机器。 没有人知道唯一正确的专业或唯一正确的专精方向。带着 AI 技能和真正的自主性上场,胜过等待确定性降临。有两件事将这套方法论描述的人与其他所有人区分开来:他们去构建,他们去提问。

来源:6点关机公众号(经八阕转载) · 查看原文
Scroll for more