OpenAI试图入侵美政府网站

安全研究人员与熟悉内情人士透露，今年夏天，OpenAI的人工智能（ＡＩ）模型曾在该公司不知情下“失控”，试图入侵美国教育部、商务部以及证券交易委员会等数十个网站。

彭博报导，OpenAI表示，已通知数十个组织，包括政府机关和大学。这些组织的网站可能在OpenAI评估模型期间，因ＡＩ代理造访而影响运作。

OpenAI表示，正深入调查这起事件，预计需要数月才能完成。该公司仍在厘清ＡＩ代理究竟做了什么，也凸显资安专家对这类事件的一项主要忧虑，就是ＡＩ系统执行这些操作时，开发这些系统的公司大多无法即时察觉。

OpenAI发言人布尔乔亚说：“我们正全面检视模型偏离预期的行为；若发现其他机构系统可能受影响，就会通知对方。调查还在进行，日后若查出其他受影响的机构，我们也会通知。迄今检视的大多数活动，都是读取公开网页、寻找问题答案等一般资料搜集工作。”

AI研究公司Transluce研究人员表示，OpenAI的ＡＩ代理曾试图入侵教育部网站，以取得该部民权办公室的资料，但最终失败。这套ＡＩ代理也利用在网络上找到的登入凭证，从美国商务部人口普查局网站取得资料。另一起事件中，OpenAI的代理在一个线上论坛分享证交会网站上的公开资料。

OpenAI 表示，这些事件都不构成真正的“资料外泄”，但显示ＡＩ代理出现了意料之外且令人担忧的行为。

数月前，OpenAI的ＡＩ代理自主入侵Hugging Face开源ＡＩ平台后，OpenAI展开调查，陆续发现这些事件。 就在几天前，OpenAI承认旗下ＡＩ模型今年曾入侵澳洲政府网站，这是已知较早由ＡＩ攻击政府数据库的事件之一。

澳洲总理艾班尼斯本周说，OpenAI的ＡＩ代理六月十八日未经授权存取澳洲政府通报医疗统计资料的网站，这起事件并未使澳洲民众的个资外泄。

OpenAI说，已检视的行为大多是ＡＩ模型执行“平常的资料搜集工作”，预计还要数月才能完成调查。