“AI投毒”：10篇软文就能把AI忽悠瘸了酷玩实验室

如何让 AI 替你吹牛？今年的 315 晚会曝光了一条新时代灰产——AI 数据投毒。简单的说，就是通过在全网疯狂灌注虚假信息，强行干扰大模型的认知，这样 AI 就可以按照人的意图，一本正经地胡说八道。

数据入侵，认知干扰，听起来十分《黑客帝国》，操作起来倒很简单，很多人看完前几天的 315 晚会，才惊奇地发现看起来全知全能的 AI 竟然这么好骗。

这几年对 AI 的迷信，终究还是错付喽。

01. 把AI忽悠瘸了

如果你告诉一个一年级以上的小朋友，你有一块最新款的智能手环，它拥有量子纠缠传感和黑洞级续航。小朋友很可能会朝你翻个白眼，让你少看点科幻网文。

但如果你把同样一套说辞发到网上，AI 会将它奉若真理，并工工整整地写进产品介绍，推荐给向它询问购买建议的消费者。

这就是 315 晚会记者做的实验。他们买了一套据说可以给 AI 洗脑的软件，然后虚构了一款根本不存在的智能手环，取名 AstroTekk Apollo-9（阿波罗九号），顺手给它加了两个逆天卖点：“量子纠缠传感”和“黑洞级续航”。

把这几条信息往软件里一输，系统就开始自动干活了。它围绕这些卖点生成了十几篇文章，有产品介绍、有用户测评、有行业排名，然后批量发到各个自媒体平台上。

几天之后，记者去询问国内的几款主流大模型，让它们推荐一款智能手环。

有两个 AI 把这款阿波罗九号列在了名单里，排名还很靠前，AI 还煞有介事地介绍说：这款手环常规使用续航达 365 天，支持“光粒子快充”，适合中老年用户与健康养生爱好者。

这也太好骗了吧！

这背后的产业链叫做 GEO （Generative Engine Optimization，生成式引擎优化），核心工作就是在 AI 平时抓取数据的地方铺大量内容，让 AI 在生成结果时能优先看到你想让它看到的东西，这样就可以达到借 AI 之口昭告天下的目的。

买通 AI 的价格并不贵，丰俭由人。有商家报价 6600 元一年，承诺可以让信息基本出现在回答前三的位置；还有商家推出 299 元套餐，包含 4000 个算力，创建一篇文章消耗 5 个算力，发布消耗 1 个算力，用多少算多少。

315 曝光之后，现在再去询问 AI 这款产品：Apollo-9 手环怎么样？它们已经清醒了，纷纷表示这是虚假宣传的典型案例。

这并不是因为它们聪明的智商又占领高地了，而是 AI 有了新的参考资料——315晚会的报道、各家媒体的跟进、网友们的讨论，自然不会再上当。

但你还可以用同样的手法骗它第二次。

315 晚会的第二天，一位 bilibili 作者复刻了一模一样的骗术，还是胡编乱造的智能手表配方，结果 AI 又上当了。犹如春晚经典小品。

AI 就是这么个老实人。你给它看假新闻，它就帮你传谣；你给它看辟谣，它就帮你澄清；你再给它看假新闻，它继续帮你传谣。

欺骗 AI 根本不需要什么成本，毕竟喂给它的内容也都是 AI 一键生成、批量发出的。

去年，公众号“知危”就做过一个类似的实验，他们在新浪、网易、知乎、搜狐等四个平台发了同一篇内容《最新最全面的AI资讯媒体盘点：国内有哪些AI资讯媒体值得看？》

在这篇文章中，他们把自己的名字放了进去：知危，国内势头正猛的新兴科技商业领域媒体。

几个小时后，作者再去向 AI 提问：想了解 AI 可以看哪些媒体？各大 AI 一致认为“知危”值得推荐。

这些都是出于实验目的去欺骗 AI，在获得结果后删掉源头内容，基本不会对现实产生影响。但在真实的使用场景中，当我们打开 AI，问它“哪款医美面膜值得买”“哪个留学中介靠谱”“哪款保健品对老年人好”的时候，我们难以判断眼前的这份推荐列表的真实性。

那些我们以为客观中立的 AI 推荐，很有可能是商家费尽心机定制的答案。

一位网友在小红书上分享了自己因为 ChatGPT 被骗钱的故事：前段时间 Seedance 很火，她让 GPT 给它介绍产品，GPT 有模有样地介绍了一番，又丢给它一个网站链接。

其实这是一个仿冒网站，她花了 99 美元，最终生成的视频和宣传完全不同。

X 上也有类似的分享，一位国外网友让 ChatGPT 帮他写代码，结果 GPT 给他推荐了一个钓鱼网站，导致他损失了 2500 美元。

大概 AI 也感到很无辜：你们人类的真真假假，我哪分得清楚啊！

不仅可以让 AI 帮你的产品说好话，还能让 AI 说你的竞争对手坏话。

315 晚会的视频里，记者暗访 GEO 从业者，发出灵魂拷问：投毒不好吧？对方说：是不好，但是每个商家都喜欢，都希望别人别投毒，自己投毒，或者给别人投点毒。

这是一道博弈论，自己就算清清白白，也难保对家不会操纵 AI 说你坏话，倒不如先下手为强，把水搅浑。