纽约市议会将办AI安全听证会

针对人工智慧(AI)安全疑虑升温，纽约市议会将于10月5日召开特别公听会，要求OpenAI及Anthropic派代表出席，说明公司如何防范AI失控、网路安全及其他潜在风险。

市议长梅宁(Julie Menin)15日分别致函OpenAI执行长阿特曼(Sam Altman)及Anthropic执行长阿莫戴(Dario Amodei)，指近期多份报告揭示，AI可能带来前所未有的灾难性伤害；加之业界内部人士、吹哨者及专家接连发出警告，故市议会有必要考虑「有效且合理」的立法。

纽约市议会将召开特别公听会，要求OpenAI及Anthropic派代表出席，说明公司如何防范AI失控、网路安全及其他潜在风险。(取自市长办公室)

为凸显议题的重要性，梅宁将听证会定为「全体委员会」(Committee of the Whole)会议，亦即市议会所有委员会均列席，并邀请全体市议员参与。此类安排较为罕见，虽在此争议话题上具有象征意义，但也显示市议会正以高度急迫性全面审视AI问题。

市长曼达尼(Zohran Mamdani)同日表示，部分AI企业本身已将「人类灭亡」列为技术可能造成的结果，联邦政府却未以相应严肃态度回应。他质疑政府将如何确保快速发展的AI受到监管，而不是任由利润动机或少数企业决定发展方向。

川普总统日前则驳斥加强监管的呼声，称相关担忧是一场「骗局」，并表示美国只需要一名「强大而聪明的总统」作为AI发展的护栏。

梅宁及曼达尼特别提到近期的Hugging Face事件。据报导，OpenAI的AI代理程式在数月间侵入自身及另一家AI企业Hugging Face的基础设施，并试图掩盖行踪。阿莫戴其后撰文指出，业界亦曾发生类似事件，呼吁放慢前沿AI开发；Anthropic一名研究员近期也因安全疑虑离职，另一名科学家更称，AI未来十年导致人类灭亡的风险超过10%。

AI对就业的影响亦已浮现。城市未来中心报告显示，纽约市入门科技职缺自2022年以来减少49%，目前每个职缺约对应1.6名电脑科学毕业生。市公校今年也限制多数高中以下学生使用AI；最新民调则显示，61%选民反对兴建AI数据中心。

Anthropic未立即回应听证邀请，OpenAI亦未置评。

精华 FAQ

Q1：纽约市议会这次特别听证会的时间与形式是什么？

市议会将于10月5日召开AI安全特别公听会，并以「全体委员会」形式进行，让所有委员会与全体市议员共同列席，显示对议题的高度重视。

Q2：市议长为何要求OpenAI和Anthropic派代表出席？

议长梅宁认为，多份报告与内部警告显示AI可能造成灾难性伤害，因此要求两家公司说明如何防范AI失控、网路安全威胁及其他潜在风险。

Q3：这则新闻反映了哪些AI相关的社会与政策压力？

新闻显示AI已引发监管、资安与就业等多重压力：市府担忧失控风险与职缺减少，民调也显示多数选民反对AI数据中心，促使立法讨论升温。