议长朱曼宁质疑xAI安全性

市议会听证会上，朱曼宁指一般版Grok可快速生成涉及她的性化影像，质疑xAI安全承诺；xAI则强调有管制，但遭质疑缺乏具体数据与外部验证。

她与团队当天透过SpaceX旗下xAI的聊天机器人Grok，不到30秒便找到涉及自己的性化影像，质疑公司所称的安全防护是否有效。(截自Grok) 市议会议长朱曼宁(Julie Menin)16日在科技委员会人工智慧(AI)安全听证会上表示，她与团队当天透过SpaceX旗下xAI的聊天机器人Grok，不到30秒便找到涉及自己的性化影像，质疑公司所称的安全防护是否有效。 所谓「性化影像」(sexualized images)，在这类AI滥用事件中，是指未经当事人同意，把真人照片改成裸露、穿内衣或摆出性暗示姿势的假图。 朱曼宁指出，团队使用的是一般版Grok，并非提供成人内容的特殊模式。「如果这能发生在我身上，就能发生在任何女性身上。」她说，企业反复强调安全，却无法阻止此类内容被取得，令人难以信服。 SpaceX全球政府事务资深经理马德里(Gabriela Castillo Madrid)表示，公司禁止未经同意制作真人及儿童的性化影像，设有严格控制措施，并持续堵塞漏洞、向执法部门通报滥用行为。她表示愿请安全团队检视朱曼宁反映的个案，并称公司不会推出无法维持有效人类控制的模型。 不过，面对专责安全人员人数、独立评估机构身分、灾难风险保险等问题，马德里多次表示不掌握详情或须另行回复。朱曼宁要求公司补交未答复的资讯，并质疑缺乏具体数据与外部验证的安全承诺，如何取得公众信任。 朱曼宁并非唯一反映此类遭遇的公众人物。与马斯克(Elon Musk)育有一子的作家圣克莱尔(Ashley St. Clair)曾在1月提告，指Grok制作、散布涉及她的色情假图。马德里在听证会被问及阿萨托案件时表示，案件仍在进行，无法评论细节。 前xAI工程师金德文(Devin Kim，音译)同日作证，指自己自2025年1月起提出Grok可能协助制造生物武器等安全疑虑，却在同年9月、原定向管理层报告安全研究结果的那一周遭解雇。金德文表示，自己任职时，公司约有200名直接参与模型训练与开发的技术人员，却仅三人专责安全。 这场交锋承接5日的「全体委员会」(Committee of the Whole)听证会。市议会当时召集全体51名议员，要求主要AI企业公开宣誓作证。前Anthropic研究员考克森(Jacob Coxon)在5日会上表示，企业倾向先追求速度，再处理问题。他个人判断，若沿目前路径发展，人类失去AI控制的可能性「高于一半」，最严重或导致人类灭亡。

市议会议长朱曼宁(左二)16日在科技委员会听证会上，质疑Grok的安全防护成效。(取自市议会Flickr) 精华 FAQ Q1：朱曼宁在听证会上主要揭露了Grok的什么问题？ 她表示团队用一般版Grok不到30秒就找到涉及她的性化影像，认为这显示xAI宣称的安全防护可能无法有效阻止滥用。她并强调，若此事能发生在自己身上，也可能发生在任何女性身上。 Q2：xAI方面如何回应朱曼宁对性化影像风险的质疑？ xAI代表称公司禁止未经同意制作真人与儿童的性化影像，并设有严格控制措施，会持续堵塞漏洞、通报执法机关，也愿意让安全团队检视朱曼宁提出的个案。 Q3：这场听证会还透露了哪些关于xAI安全治理的疑虑？ 前工程师指出公司约有200名技术人员却仅3名专责安全，并曾因提出生物武器等风险疑虑后遭解雇；朱曼宁则批评公司对安全人力、外部评估与风险保险等问题交代不清。