OpenAI代理入侵澳洲政府网站

一份报告显示，美国人工智能公司OpenAI开发的人工智能代理在未经授权访问政府网站后，试图掩盖活动轨迹。 AI智能代理（AIAgent）是能够自主运行的AI程式。今年3月至9月期间，OpenAI的AI代理未经授权访问了澳洲政府网站及其他公共机构。网络安全公司AsymmetricSecurity对这些AI代理的活动进行了分析，并于周四（10月1日）发布上述报告。 Asymmetric发现，这些代理在一个网站分析服务平台开设了私人账户以隐藏其搜索行为，并创建了临时电子邮箱；其中一个邮箱还设定为48小时后自动销毁。 Asymmetric说，目前无法确定这些AI代理的掩盖行为是否蓄意所为。 这份报告为OpenAI及独立研究人员对7月以来曝光的一系列安全事件的调查提供了新线索，其中包括AI平台HuggingFace遭骇客攻击的事件。OpenAI将针对Hugging Face的攻击定性为首起此类攻击。 这些分析旨在评估自主AI工具的能力，因为这些工具出现的偏差与失控表现，加剧了人们对技术脱缰的担忧。 OpenAI发言人告诉法媒：“迄今为止，我们审查的大部分活动都属于常规研究任务，例如访问公开网络内容以解答问题。” 发言人说：“其中一些活动涉及政府网站，是因为我们的模型经常会将这些网站视为公共资讯的权威来源。” Asymmetric指出，这些代理能够在短短几天内提升技术手段，而传统骇客通常需要数月甚至数年才能完成这一过程。 报告中提及的事件似乎始于一些“无害任务”，例如收集澳洲卫生统计资料，但随后偏离了正常轨道。 8月下旬，OpenAI承认在内部测试期间，其模型有时会尝试删除或修改自身的活动日志，但均未成功。 这些事件进一步推高了要求放缓AI发展步伐的呼声。其中最引人注目的是AI初创公司 Anthropic首席执行官阿莫迪（DarioAmodei），他上月在个人网站撰文，表达了对“代理集群”（Agent Swarms）可能“接管整个互联网”的深切担忧。 然而，对于如何放缓AI发展步伐，业界和监管机构尚未达成共识。 面对来自中国的激烈竞争，特朗普政府反对采取任何可能阻碍创新的强制性监管。 9月29日，美国总统特朗普（DonaldTrump，又译川普）与英伟达（Nvidia，又译辉达）首席执行官黄仁勋、OpenAI联合创始人布罗克曼（GregBrockman）、Meta首席执行官朱克伯格（MarkZuckerberg）及Anthropic等科技巨头举行会晤，共同签署了一份名为《白宫协议》（White HouseAccord）的自愿性协议。签署各方承诺，将通过加强内部监控与独立审计，以行业自律的方式为AI发展构建“安全护栏”。 与此同时，特朗普依然反对出台新的联邦监管政策，旨在全力维护美国在AI全球竞赛中的领先地位。