Grok生成儿童性化图像，各国谴责

马斯克(Elon Musk)的AI聊天机器人Grok近期因大量未经用户同意而生成的女性和儿童性化图像，而遭到世界各国政府谴责。

美联社报导，英国最高科技官员要求马斯克的社群媒体平台X采取紧急行动。一位波兰议员也以此为由，呼吁制定数位安全法。欧盟执行机构谴责了Grok，法国、印度、马来西亚和巴西的官员和监管机构也纷纷谴责该平台，并呼吁展开调查。

Grok Imagine是一款AI图像产生器，可让使用者透过输入文字提示来建立影片和图片。(Grok Imagine主页截屏)

来自不同国家的日益增长的担忧表明，利用人工智慧生成露骨深度伪造图像的「裸体化」应用程式可能带来可怕的后果。

问题源自于去年Grok Imagine的发布。 Grok Imagine是一款AI图像产生器，可让使用者透过输入文字提示来建立影片和图片。它包含一个所谓的「刺激模式」(Spicy Mode)，可以产生成人内容。

上个月底，Grok似乎开始大量接受用户修改他人发布的图片的请求，事态迅速恶化。截至周二，Grok用户仍然可以产生女性图片，例如「让她穿上透明比基尼」。

问题之所以严重，一方面是因为马斯克将他的聊天机器人宣传为比那些安全措施更完善的竞争对手更具前卫性的选择；另一方面是因为Grok生成的图片是公开可见的，因此很容易传播。

非营利组织AI Forensics在一份报告中称，他们分析了Grok在12月25日至1月1日期间生成的2万张图片，发现其中2%的图片描绘的是看起来18岁或以下的人，包括30张身穿比基尼或透明服装的年轻或非常年轻的女性或女孩的图片。

马斯克的人工智慧公司xAI对置评请求的回应是自动回复「传统媒体的谎言」。

然而，X并未否认Grok平台上的确存在令人不安的内容。但它仍在其安全帐号上发文称，会采取措施打击非法内容，包括儿童性虐待材料，「包括删除内容、永久封锁帐号，并在必要时与地方政府和执法部门合作」。

该平台还重复了马斯克的评论：「任何使用Grok制作非法内容的人都将承担与上传非法内容相同的后果。」

越来越多的国家要求马斯克采取更多措施来遏制露骨或侮辱内容。

英国科技大臣肯德尔(Liz Kendall)周二表示，X必须「紧急」解决这个问题，她支持英国通讯监管机构Ofcom进行更深入的审查。她说，这些内容「绝对令人震惊，在文明社会中是不可接受的」。

■ Grok涉不雅内容惹众怒（图）