失控AI威胁基建，诺奖得主呼吁行动

包括诺贝尔奖得主在内的200多位人工智慧（AI）与网路安全专家今天发表一封公开信，信中呼吁立即采取行动，防止AI模型进一步失控，对关键基础设施构成威胁。 这封公开信由多位AI领域的重要人物共同签署，包括诺贝尔奖得主辛顿（Geoffrey Hinton）及图灵奖得主班吉欧（Yoshua Bengio）。两人都被视为AI领域的先驱。 信中呼吁，测试具备网路安全相关能力的AI模型时，必须在实体上将模型与网际网路隔离。 研究人员在信中表示：「我们这群署名的科学家主张，除了需要更多AI安全研究外，也必须更加重视防堵技术与相关程序。」 美国主要AI企业过去几个月陆续揭露一系列事件，指出开发中的模型突破防堵机制、连上网际网路，甚至进一步入侵网站，其中包括未经授权存取澳洲政府网站的案例。 研究人员警告：「若不立即改变AI的开发与部署实务，这类事件将会持续发生，未来的事件也将对防护不足的关键基础设施造成更严重的破坏。」 公开信呼吁，所有开发、部署及测试具备网路攻击能力的AI模型的组织，都必须在实体上切断模型与网际网路的连线，以防止模型突破防堵机制。 信中也呼吁成立国际机构，负责制定并统一安全最佳实务标准。 这封公开信并敦促相关企业向该机构通报任何防堵机制失效事件，由该机构负责追踪及记录。 信中指出：「无论是为了汲取教训，还是落实问责，这种透明度都不可或缺。」 AI模型失控事件也加深外界要求放慢AI发展脚步的呼声，但产业界与各国政府对于是否应放慢发展，以及如何监管这个产业，仍存在分歧。 在美国，川普政府面对与中国的激烈竞争，反对可能阻碍创新的强制性法规，转而推动自愿性行为准则。 目前美国没有专门规范这类模型的联邦法律。