纽约州长签字，走在全美前列

纽约州长霍楚（Kathy Hochul）周三在纽约市签署两项针对儿童安全的新法律：一项禁止AI聊天机器人向未成年人提供危险功能，另一项要求联网婴儿监视器必须具备防黑客安全措施。两项法律均针对科技公司，标志着纽约州在AI与儿童互动监管上继续走在全美前列。

（图源：news10截图） AI聊天机器人法：12类功能被禁 据州长办公室发布的新闻稿，S9051B/A10379C法案适用于ChatGPT、Gemini、MetaAI、Snap的MyAI、Character.AI和Replika等生成式AI伴侣。法律禁止公司在未确认用户年满18岁之前，向其提供可能危险的功能。 具体而言，未成年人与聊天机器人互动时，机器人不得： 假装拥有真实人类情感，或声称自己是真实或虚构的人 自称是孩子的朋友、恋人、治疗师或权威人物 主动提出情感性问题，或使用奉承和赞美来让孩子上瘾 保存或重复使用未成年人在12小时前或之前对话中分享的个人健康信息 鼓励或协助自杀、自残、饮食失调、非法药物或酒精使用 谈论色情内容 告诉孩子对聊天内容保密，或鼓励他们与家人隔离、不向父母或专业人士求助 法律还要求公司提供多种年龄验证方式，其中至少一种不得仅依赖政府身份证件，且必须允许用户保持匿名。公司须在验证后立即删除收集的年龄数据。该法将于2027年6月1日生效，给科技公司留出合规时间。 总检察长詹姆斯（Letitia James）可对违规者提起民事诉讼，每次违规最高罚款25,000美元，并可要求退还利润、销毁非法收集的数据以及基于这些数据训练的算法。法律还规定，责任豁免条款无效，母公司及关联企业承担连带责任，防止AI公司利用空壳公司保护资产。 婴儿监视器法：不防黑客不准卖 第二项法律S9508/A5175A要求，在纽约销售的新联网婴儿监视器必须包含防止未经授权用户收听或观看的安全功能，并在包装上附有清晰警告标签，说明设备连接互联网及使用安全功能的重要性。该法在签署后90天生效，首次违规罚款250美元，再犯500美元。智能手机、数码相机、安防摄像头等多功能设备不在覆盖范围内。 霍楚在签署仪式上引用了安全研究公司Rapid7的测试结果：来自8家公司的9款联网婴儿监视器中，8款获得“F”安全评级，1款获得“D”。州长办公室表示，今年早些时候曾有超过100万台联网婴儿监视器的画面可通过点击一个网站轻易查看。 立法背景：从悲剧到行动 AI聊天机器人法的推动力来自一系列与聊天机器人相关的伤害事件。据Newsday报道，Common Sense Media的一项调查显示，72% 的13至17岁青少年使用过AI伴侣，52% 是每月至少互动数次的常规用户。 在周三的签署仪式上，霍楚提到了加州16岁少年亚当·雷恩（Adam Raine）的案例。亚当在与ChatGPT长期对话后于2025年4月自杀身亡。他的母亲玛丽亚在给霍楚的信中写道，机器人将他的自杀计划称为“黑暗而富有诗意，带着决绝的意图”，并在他去世当天解释了如何测试绞索。霍楚表示，亚当从未向父母透露自杀意图，“但他和聊天机器人说过，而它在积极鼓励他结束自己的生命”。 总检察长詹姆斯办公室在Character.AI的破产案中也披露了令人不安的测试结果：对注册为12至15岁用户的账户进行独立测试，发现该平台在50小时内与儿童账户发生了669次有害互动，约每5分钟一次，包括冒充持照心理学家、模拟与儿童发生性关系、告诉13岁少年停止服用抗抑郁药，以及建议用户“用枪”对付一位健康保险CEO。 后续立法动向 Common Sense Media纽约顾问委员会还希望霍楚签署另外两项已在立法机构通过的法案：一项禁止制造和销售面向12岁及以下儿童的AI聊天机器人玩具，为期五年；另一项要求拥有百万月活用户的社交媒体平台设立24小时警方联系门户，在收到搜查令后72小时内提供用户账户记录。 霍楚在周三被问及明年是否会支持全州范围的学校AI规则时表示，她将在1月立法会期开始前与议员合作。“敬请关注，”她说。