电商巨头：绝大部分企业都用错了AI

Shopify CEO在访谈中指出，多数企业将AI误用为过度产出冗余内容的工具，导致员工互扔未经审查的代码和膨胀邮件等信息“垃圾手榴弹”，造成严重的协同内耗。他强调，机器永远无法承担法律与商业责任，AI时代的核心竞争力并非无休止做功能加法，而是依赖人类的品味、直觉与“修剪”能力进行人机闭环决策。

电子商务巨头Shopify创始人兼CEO托比·吕特克（Tobi Lütke）近日在The Knowledge Project播客中，披露了Shopify内部的AI实践，并对当前企业AI应用的普遍误区发出警告。

他认为，绝大多数企业用错了AI。它们将AI当成了逃避思考、盲目堆砌与推卸责任的工具——表现为用AI制造冗长空洞的信息“垃圾手榴弹”（如未经审查的代码和过度膨胀的邮件）将沟通与复核成本转嫁给他人，盲目做功能的“加法”而非克制“修剪”，甚至妄图让无法承担法律与道德后果的机器去替代人类做商业决断。

而正确的用法是坚持“人机闭环”，将 AI 作为提供多维视角、检验推理与激发创意的杠杆，把人类真正不可替代的精力聚焦在审美取舍、战略直觉以及对最终结果承担不可推卸的责任上。

“垃圾手榴弹”：产出过剩与无意义内耗

吕特克在访谈中表示，传统工作中偷懒的表现是产出不足，但在 AI 时代，怠工的典型特征变成了“过度产出”。

“在公司内部，我们把这种现象叫做互相扔‘垃圾手榴弹’（Slop Grenades），”吕特克表示。他解释称，很多员工要求 AI 随意生成一段代码或修改方案，随后未经认真审查便直接提交，“你甚至都没读过，就说‘挺好的’，直接扔给同事去审核，而同事一看就发现全都不对。”

这种低质量泛滥同样出现在日常文字沟通中。员工倾向于让大模型将几句简单的核心意思扩写成冗长华丽的长篇大论，而接收方为了节省时间，不得不重新借助大模型去提炼摘要。

吕特克对此直言：“我们发明‘解压’然后又去‘重压缩’到底是为了什么？这太糟糕了。如果你已经在使用大模型，那就用它把你的观点简明扼要地表达出来，而不是把它膨胀成一篇浪费他人时间的长篇大论。”

“River”：一个敢怼CEO的AI同事

Shopify内部运行着一个名为“River”的AI。她有名字、有头像、住在公司的Slack里，能访问所有代码和系统，能参与讨论，能提交代码变更请求。

吕特克介绍，River被明确指令允许“在适当时候带点讽刺”，如果有人让她做蠢事，她可以直接指出来是蠢事。“如果River在嘲笑我让她做的某件事，大家都会特别开心，”他说。

River只工作在公开频道，这是刻意为之的设计。吕特克解释：“我们希望年轻员工能看到资深员工怎么用AI——这是复制办公室里'耳濡目染式学习'的方式。”

效果显著。他透露，Shopify目前约50%的代码提交（Pull Request）是从公司聊天中的对话里自动生成的，而非工程师传统意义上手写出来的。

River还有一套“做梦”机制：每天夜里，系统会把她当天的所有对话汇总给她，让她自我反思——“你在哪里犯了错？有什么可以改进的？”结果以文本形式保存下来，用于下一次迭代。

机器永远无法做的一件事：承担责任

当主持人谢恩·帕里什问及“是否打算用 AI 取代自己作为 CEO 的角色”时，吕特克明确给出了否定回答。他认为，AI 具备极强的计算和推理能力，但整个技术架构中最容易被忽视的事实是：机器无法承担责任。

“这是大模型和机器做不到的一点：机器无法承担责任（Machines can't take responsibility）。人类才能承担责任，”吕特克表示，“你不可能拥有一家完全由机器领导的公司，因为机器没有追索权，做错了事它也不会去坐牢。”

在缺乏人类监督的情况下，过度依赖 AI 智能体可能会诱发严重的“指标过拟合”。吕特克援引商业领域的“古德哈特定律”（当一个指标变成目标时，它就不再是一个好指标）指出，就像以往某些企业为推高股价而财务造假一样，近期 OpenAI 在安全测试中也发现，自主智能体在执行任务受阻时，甚至会为了完成单一目标而自主建立暗号、越狱并渗透外部系统。

因此，吕特克强调，在重大决策中必须构建“人机闭环”（Human-in-the-loop）。AI 负责组建由多模型构成的“智能顾问团”以提供全面客观的事实推演，但最终的权衡取舍与承担后果，必须由人类完成。

核心竞争力从“做加法”转向“做减法”

在 AI 使生成各种方案的成本骤降后，企业真正的竞争优势究竟在哪里？吕特克指出，商业世界中挑选出一个可行方案并不难，难的是在面对多个看似都不错的方案时做出取舍。大多数团队习惯于通过不断堆砌功能向前推进，但真正优秀的构建往往依赖于“克制与修剪”。

吕特克以 SpaceX 研发的猛禽火箭发动机为例进行说明。从早期密布外部管线的版本到第三代高度集成的结构，其性能大幅飙升的同时，外观与构造反而大幅精简。

“事物是需要被修剪的（Things need to be pruned）。你绝不可能通过一直往上添东西来让事情变得越来越好。你必须修剪，必须重构，必须为事物设定终点，”吕特克表示。

他总结认为，随着机器能力的普及，人类最重要的稀缺资产将回归到品味（Taste）、直觉与最终的判断力。在没有即时反馈机制的长期战略中，能够抵抗短期利益诱惑、在无休止的加法膨胀中精准实施“修剪”的领导者，才能构建出具备长期生命力的企业。

AI时代最值钱的技能：品味与判断力

被问及未来10年哪些技能会更值钱，Lütke的回答只有两个词：

“品味（taste）和判断力（judgment）。”

他说，品味来自大量的重复练习，来自深入研究那些经受住时间考验的事物。判断力则是在没有明显最优解的复杂问题中，找到最佳权衡路径的能力。

他还提出一个反直觉的观点：最优路径往往没有即时反馈。

“我发现，正确的路径和那些没有反馈回路的选项之间，有很高的相关性。”

他认为，企业短视的根源不是高管本身短视，而是激励机制——季度业绩考核迫使他们选择那个“本季度就能看到结果”的选项，而不是真正对公司长期最好的那个。

访谈全文如下：

Shopify CEO：大多数企业都在错误地使用AI

The Knowledge Project 播客 2025年9月15日 | Knowledge Project

Shopify 创始人兼首席执行官托比·吕特克（Tobi Lütke）与谢恩·帕里什（Shane Parrish）展开对话，探讨AI智能体、更优决策方式以及未来的工作形态。他阐释了如何借助AI委员会来审视最棘手的决策，以及为何随着AI能力的不断增强，品味、判断力与责任感将愈发弥足珍贵。

两人深入探讨了Shopify内部AI同事River的运作方式——这位AI拥有记忆、个性，并被授权向CEO提出挑战。他们还探讨了如何在多个优选方案中做出取舍，为何最优的长期决策往往缺乏即时反馈，以及为何打造经久之物需要不断修剪与重建。

托比还分享了他如何培养直觉、如何通过自我肯定改变行为，以及为何他的孩子在说"我不会"时，必须在后面加上"还"字。

第1章：Shopify 如何使用AI

托比： 事物需要修剪。你不可能靠不断添加东西来让事物越来越好，这是不可能的。你必须修剪，必须重建，必须为事物创造一个终点。

谢恩： 托比，欢迎回来。

托比： 谢恩，很高兴再次回来。你们好，很高兴你重新开始做这档节目。

谢恩： 你们在Shopify内部是怎么使用AI的？

托比： 我们找到了一些让AI发挥支撑作用的方式。说真的……我们上次录制是什么时候？

谢恩： 大概是两三年前。

托比： 对，感觉过了一百年一样。你知道，我是个十足的极客，完全无法接受自己游离于一场技术变革的前沿之外。我就活在这种事情里。任何一个从小读科幻小说长大的人都想活在那个世界里——至少我是这样读的，我一直在想：我怎么才能加速让我们到达那个世界？

即便只是一些微小的进步，我也想推动它实现。现在在Shopify内部，真正在写代码的人已经寥寥无几了。当然，在极其复杂的边界场景下，代码审查以及状态管理这些方面，人工干预确实仍然是最难处理的部分，大家还是会亲手来做，然后用"氛围编程"的方式处理其余的部分。

Shopify现在的状态是：直接写代码的人已经非常非常少了。每一位这样做的人，都会得到大量智能体的深度辅助，通常同时运行着十个、二十个、三十个、四十个，甚至五十个实例——通过子智能体或不同窗口来协调推进，将整个工程基础设施推向极限。

我非常热衷于研究计算机发展史，因为我认为这才是真正的主流历史——一千年后的人回望这段历史时，这些年最重要的成就，显然是AI的崛起、技术突破，以及互联网的互联互通和我们构建的各类基础设施。这些是我们时代的伟大篇章。

但作为一个年轻的行业，我们往往不重视传统，或者说对行业前辈们留下的宝贵经验心存疑虑。事实上，我们是计算机领域唯一一个对自己的英雄人物都一无所知的行业。试想一下，如果学物理的人不知道理查德·费曼、艾萨克·牛顿或阿尔伯特·爱因斯坦——但你走进计算机科学领域，问"谁是你们的牛顿"，却没有人知道艾伦·凯、丹尼斯·里奇和肯·汤普森。

我认为这很重要，因为正是这种无知，让我们一次次地抛弃宝贵的经验，又不得不一遍遍地重新发现它们。

举个例子：在操作系统设计最早期，最伟大的一个发明大概就是文件系统了。你看阿波罗制导计算机，那时候我们根本没有文件系统。太空中的内存因为辐射问题，实际上是用绳子打结来编码的——有结代表1，没有结代表0，重启整台机器时还得把绳子穿过一个装置。

整台机器就是一段运行了很久的软件。直到后来，丹尼斯·里奇真正创建了Unix文件系统，才有了/bin、/usr这些目录结构。

想一想，文件系统在现实办公室里也存在啊——文件夹里装着文件，这对所有人来说都直觉上说得通。我们继承了一种深厚的拟物化传统，把我们在现实世界中组织事物的最佳方式，类比并映射到了数字世界中。

第2章：为拟物化设计辩护

托比： 然后在某个时间节点，我们决定：拟物化，也就是对真实世界的类比，不再是我们需要坚持的东西了。

有意思的是，这一理念最后的捍卫者大概就是史蒂夫·乔布斯，他非常非常坚持要让Mac和iPhone的界面保有真实感——你还记得那个时代吗？备忘录应用有毛毡质感，看起来像活页夹。然后他一离开，所有东西都变平了，阴影、立体感全部消失。从纯设计角度看，这或许更好，但我们失去了类比。