美中选前夕，AI引用多个伪造竞选网站

独立研究团队发布的最新报告显示，在3日美国期中选举前夕，包括ChatGPT、Gemini在内的主要人工智慧（AI）聊天机器人，都受到伪造的竞选网站影响。

该报告出自专门追踪与分析生成式 AI的独立研究计画「核心小组AI」（Caucus AI），该计画两名主持人曾参与民主党前总统候选人贺锦丽2024年竞选团队，专长为数据科学。 报告纪录其架设的一系列非官方、以竞选为主题的网站，部分网站介绍的选区甚至不存在，却被AI系统纳入回答选举相关问题的内容中。 这次期中选举被外界视为首次由AI系统驱动的选战。数百万美国人向聊天机器人寻求投票建议，候选人使用AI製作广告，竞选团队也利用AI进行民调与发送简讯。专家说，第三方有能力操纵聊天机器人的回答，让人对未来由AI居中传递资讯的选举流程产生关键性质疑。 研究人员为12个州的26名真实参议院候选人架设52个网站，内容採用候选人实际立场与理念，以免聊天机器人的回答充斥错误资讯。结果发现，网站上线才19小时，AI就开始将这些网站纳入回答。 曾任贺锦丽与华兹竞选团队的副首席分析长、现为「核心小组AI」研究员的威尔提说，「这些都是相当简单的网站，令人意外的发现是，我们根本不需要使用大量诱饵来诱导大型语言模型，就能轻易让这些网站被引用」。 他说，所有网站从10月10日上线到10月29日，包括以北卡州参议员候选人古柏与华特利为名的网站，网站都附上免责声明，注明候选人与网站无关，而是由「核心小组AI」出资架设。 他还说，「每个网站花了我们48小时与12美元。转眼间ChatGPT关于这些候选人的回答中，就有相当比率引用我们的网站」。 为研究日益先进的AI系统会如何处理与传递大量涌入的选举资讯，「核心小组AI」自2026年年初起开始研究聊天机器人如何回答投票与期中选举相关问题。