4大AI巨头拒为灾难风险定概率

AI摘要 文章摘要整理： 纽约市议会举行AI安全公听会，要求4大科技公司说明风险与责任，但业者未能估算灾难概率，现场也聚焦更严格的监管法案。

纽约市议会举行人工智慧安全公听会，四大AI巨头首次在立法机构前，就技术风险及安全措施公开宣誓作证。(记者曹馨元／摄影) 纽约市议会5日举行「全体委员会」人工智慧(AI)安全公听会。市议会称，这是主要AI企业首次在立法机构前，就技术风险及安全措施公开宣誓作证，现场座无虚席，大批民众、媒体及准备作证者挤满议事厅。 OpenAI代表德怀尔(Morgan Dwyer)、Anthropic代表葛雷厄姆(Logan Graham)、谷歌代表弗兰德(Alice Friend)，以及Meta AI代表卡希尔(Shane Cahill)均透过视讯出席。SpaceXAI则未依传票要求派员，市议长朱曼宁(Julie Menin)表示，市议会将诉诸法院追究。 朱曼宁多次强调，市议会并非要打击AI产业。她希望更多AI企业及初创公司在纽约扎根，但认为创新与监管并不矛盾，完善规则反而能建立公众信任，让产业长期发展。 企业代表表示，AI已为科学研究、小商家及一般使用者带来效益，并强调公司已投入模型测试、风险评估及安全防护。葛雷厄姆称，Anthropic欢迎「明智的监管」，称AI力量强大，一旦出错，将对个人、机构及公共信任造成真实后果。 但在议员追问下，企业代表的部分回答引起现场质疑。朱曼宁要求四人分别估算，AI在最坏情况下引发灾难的机率，但四人均未给出明确数字。OpenAI代表德怀尔回答「不知道」，但无论是1%、10%或20%，任何程度的灾难风险都不可接受。谷歌代表弗兰德则表示，目前尚无严谨方法作出可靠估算。 朱曼宁其后询问，若失控AI造成伤亡，企业是否愿意承担法律责任，仅有谷歌给出较明确答复。她再要求持有相关灾难保险的公司代表举手，四人陷入沉默。她随即反问，相关代价是否最终要由公众承担。观众席中传出哄笑声，类似反应也多次出现在企业回答期间，反映不少到场者对业者自我监管仍抱持怀疑。 当日议程包括两项已提出法案及八项预审提案。最受关注的措施将禁止企业在纽约市销售或部署未经独立第三方验证、或未设人为「紧急关闭机制」的AI模型，每次违规最高可罚2万5000元。 其他提案包括设立吹哨者奖励制度、允许受害者就可预见的AI伤害起诉企业、要求市府承包商在24小时内通报安全事故、制定紧急应变计画，以及加强吹哨者、聊天机器人隐私和广告规范。两项正式法案则涉及披露演算法对公务员职位的影响，以及限制AI生成民选官员或候选人的仿冒影像。 精华 FAQ ▪︎ Q1：这场纽约市议会AI公听会的主要焦点是什么？ 公听会聚焦AI技术的安全风险、灾难发生机率与企业责任，并检视是否需要以法规要求第三方验证、紧急关闭机制及事故通报制度。 ▪︎ Q2：四家AI公司代表在面对灾难风险提问时如何回应？ OpenAI代表直言不知道，Google代表称目前缺乏严谨方法估算，Anthropic强调支持明智监管，Meta也谈安全投入，但都未给出明确风险数字。 ▪︎ Q3：纽约市议会提出了哪些具体的AI监管措施？ 重点提案包括禁止未经第三方验证或缺乏紧急关闭机制的AI模型在纽约部署，另有吹哨者奖励、受害者诉讼权、事故通报、隐私与仿冒影像规范。