Grok涉色情深伪图，英促X平台处理

英国政府今天敦促亿万富豪马斯克（Elon Musk）的社群平台X采取紧急行动，因应旗下人工智慧（AI）工具Grok被用来制作儿童的伪造色情图像。

英国科技大臣肯达尔（Liz Kendall）透过声明表示：「近几天我们在网路上看到的景象完全骇人听闻，在文明社会中是不可接受的。」

AI工具Grok因允许用户透过所谓的「辛辣模式」（spicy mode）设定，生成女性与未成年人的色情化深度伪造（deepfake）图像，正引发日益增长的国际反弹。

欧盟执委会昨天宣布，正「非常严肃地」审查有关这款工具的投诉；英国媒体监管机构通讯管理局（Ofcom）也表示正在调查X平台及开发Grok的xAI公司。

根据英国去年7月生效的「线上安全法」（Online Safety Act），凡是承载可能有害内容的网站、社群媒体和影音分享平台，都必须透过脸部图像或信用卡检查等工具，实施严格的年龄验证。

这项法案也规定，媒体和这类网站制作或分享未经同意的私密图像或儿童性虐待内容，包括以AI制作的色情深度伪造品，均属违法。

法案允许对未遵守规定的公司处以其全球收入10%或1800万英镑（约新台币7.6亿元）的罚款，以金额较高者为准。

英国政府也已表示，将禁止允许使用者为照片中人物「脱去衣物」的所谓「一键脱衣」（nudification）工具。

Grok开发方2日曾表示，已发现旗下AI工具存在缺陷，形容这是「安全防护上的疏失」，并正「紧急」努力修复。