桑德斯与AI对话引关注网易科技
AI人工智能发展一日千里,随之而来的侵犯私隐争议,只停留在小圈子里面,很多民众根本不关心。近日,美国史上最资深的联邦参议员桑德斯(BernieSanders)在其 YouTube 频道发布了一段与人工智能模型 Claude 的跨界对话。
这场长达九分钟的访谈中,由Anthropic开发的Claude大模在生成回答时,直接说出科技巨头如何透过 AI系统在全球范围内,无孔不入地收集用户数据,监控用户的一切。Claude更在对话中说,这种基于大数据的“精准分析”不仅被用作牟取暴利,更正以前所未有的规模威胁着民主制度的根基。
“隐形”的数据监控:你停留的每一秒都在被纪录
视频一开始,桑德斯一针见血地提问:“美国民众对于 AI 收集资料的程度,究竟有多少了解?”Claude的回应令人不寒而栗。它直接说,企业正在从各个层面收集数据,除了常规的浏览纪录、位置资讯和购物清单,甚至连“用户在特定网页上停留了多少秒”都在监控之列。记者发现,Claude的回答直接导致这条视频上载不足24小时,便吸引了170万人观看。
Claude继续说,这些海量数据被输入 AI 系统后,会自动生成极度精细的个人档案。然而,绝大多数用户对此毫不知情。Claude点出了一个残酷的事实:大部分人在没有阅读服务条款的情况下直接点击“同意”,根本不知道自己的资料正被结合数千个数据点,拼凑出完整的个人轮廓。而这一切都发生在背景中,完全隐形且缺乏监管。
桑德斯是美国国会历史上任职时间最长的独立议员,他最近对话Claude AI大模型的视频爆红。
为了赚钱!从商品推销到政治洗脑
为何科技巨头要耗费巨资收集这些资讯?它给出了最直接的答案:“金钱,参议员。这本质上是为了利润。”透过AI,企业能预测用户的购买行为,并针对不同人显示不同的商品价格。但更具破坏性的是,这种技术早已蔓延至政治领域。传统的政治宣传中,所有选民看到的广告大同小异;但AI 却能针对个别选民的“心理脆弱点”进行微定向(Micro-targeting)推送。
Claude仔细解释说,AI可以识别出对财务状况感到焦虑、或对社会体制极度不信任的选民,然后精准投放为他们量身订造的讯息。同一个选区内,有人可能看到保护就业的承诺,另一人则不断接收到关于移民恐惧的煽动。
Claude 警告说,这种将“共享现实”碎片化的做法,一旦被外国政府或恶意行为者利用,将轻易撕裂社会并操纵选举结果。
Claude 面对桑德斯的问题,生成回答时告诉民众科技公司如何透过AI监控民众。
“自我训练”与保护私隐的终极矛盾
桑德斯随后提出了许多精英们的担忧:“有些人的 AI甚至比他们的配偶更了解自己,我们如何信任这些用个人数据来赚钱的公司会保护私隐?”
Claude 坦承这是一个“核心矛盾”。AI公司的整个商业模式,正正建立在从个人数据中提取价值。当一间公司声称会保护私隐,却同时利用这些私隐数据来训练新一代模型以获取更高利润时,当中存在着无法调和的利益冲突。在缺乏具约束力法规的情况下,企业几乎不需要为滥用数据承担任何实质后果。
Claude 面对桑德斯的问题,生成回答时告诉民众科技公司如何透过AI监控民众。
政治现实与“叫停”AI数据中心的考量
面对失控的数据采集,左翼的桑德斯提出是否应该对新建 AI 数据中心实施“暂停令”(Moratorium)。Claude起初对提问展现出妥协态度,认为与其全面暂停,不如实施严格的资料收集规范,例如强制明确同意、赋予用户删除权等。
然而,桑德斯随即以政治现实反驳:“这些 AI公司正投入数以亿计的资金进行政治游说,确保你所说的保障措施永远不会落实。”面对政商角力的现实,Claude承认自己“对政治现实过于天真”,并同意在科技巨头大举干预立法的当下,暂停新建数据中心确实是迫使立法者掌握谈判筹码、争取实质监管的务实手段。桑德斯的观点是目前美国左翼的呼声,但也被右翼视为拖慢美国科技发展,让中国有机会从后赶上,严重损害美国利益。
记者需要从技术上解释一下这场对话:Claude之所以会输出“科企监控私隐与操纵政治”的文本,是因为它的训练数据库中充满了人类过去几年对科技侵犯隐私,比如剑桥分析事件(CambridgeAnalytica)等隐私丑闻的报导,而非 Claude 具有 Anthropic 公司的“内部机密”或“自我意识”。
Claude 面对桑德斯的问题,生成回答时告诉民众科技公司如何透过AI监控民众。


