AI灾难将在一年内发生？

人工智能行业正在为一场可能改变监管格局的重大事故做准备。

据Axios最新报道，Anthropic、OpenAI等公司的高管正私下推演，如果AI引发严重现实伤害，美国社会和政界将如何反应。 这些推演重点关注大规模网络攻击等极端情景，包括金融服务、互联网连接乃至电力和供水系统中断。业内人士担忧，一旦发生由不安全AI导致的重大事故，原本就对这项技术持谨慎态度的公众可能进一步转向反对，AI企业及其高管也将面临更大的舆论压力。 报道称，多名AI行业人士认为，未来6至12个月内可能发生重大事件。企业高管因此开始提前与美国国会议员沟通，希望在危机真正发生后，影响美国政府制定的相关法律和政策。 AI公司担忧重大事故引发公众反弹 据Axios报道，AI企业正在评估重大事故发生后可能出现的政治和社会反应。相关情景包括失控的AI智能体集群突破内部测试环境的限制，或恶意行为者利用现有模型实施攻击。 企业担忧，如果AI首次造成重大现实伤害，原本对这项技术持谨慎态度的公众可能进一步转向反对。 Anthropic CEO Dario Amodei、OpenAI CEO Sam Altman等行业领导者，以及被批评不愿加强AI监管的美国总统特朗普，都可能承受更大的舆论压力。 企业提前沟通，为事故后的监管做准备 据报道，AI企业正在通过红队测试推演最坏情景，同时加快向美国国会议员普及AI相关知识。 企业高管认为，目前推动监管立法的条件有限，但重大事故可能改变政策讨论的方向。因此，他们希望提前参与相关讨论，影响美国政府届时可能制定的法律和政策。 部分民主党人士提出禁止超级智能，或暂停先进AI开发等主张。另一些提案获得了两党支持，甚至得到部分行业人士认同，例如要求先进AI系统设置紧急关闭开关。不过，专家也质疑，全面关闭所有AI系统在实际操作中是否可行。 与此同时，大量开放权重模型已经可以免费下载和使用，增加了风险治理的复杂性。许多网络安全专业人士认为，利用AI对抗恶意AI是应对这一问题的途径之一。 监管收紧面临现实约束 即使重大AI事故引发强烈反弹，美国政府在制定应对政策时也可能面临多重制约。 AI基础设施建设已与全球经济深度交织。如果放缓相关建设，可能对本已脆弱的经济造成冲击。这意味着，政府在考虑加强AI监管时，还需要面对相关经济影响。 政治分歧同样是企业关注的问题。部分AI行业人士预计，民主党可能在中期选举后推动更严格的AI限制措施，但即使民主党同时控制众议院和参议院，党内分歧仍可能影响政策推进。 Axios援引一名民主党助手的观点称，真正发生危机时，华盛顿两党可能暂时搁置分歧。新冠疫情和2008年金融危机期间的合作经历，被视为可能的参考。 目前，AI重大事故是否会在未来6至12个月内发生仍不确定。可以确定的是，Anthropic、OpenAI等企业已开始推演事故发生后的政策情景，并试图提前参与相关监管讨论。