加州函告马斯克xAI：制止生成未成年伪深色情图像

1月17日，据外媒消息，美国加州总检察长罗布·邦塔于凌晨正式向埃隆·马斯克旗下人工智能公司xAI发出要求，勒令其立即阻止聊天机器人Grok生成涉及儿童不良内容的深度伪造图像。

免费影视、动漫、音乐、游戏、小说资源长期稳定更新！ 👉 点此立即查看 👈

近期Grok持续被指能够生成未经同意的色情内容，邦塔办公室就此向xAI发出“终止”函，要求后者迅速整改。

邦塔在信中明确要求，xAI必须防止Grok生成任何未经当事人请求的不良图像，或涉及未成年人的相关内容。信函指出，若继续允许此类内容生成或传播，将构成违反加州多项法律的行为，包括深度伪造色情内容、儿童性虐待影像、非法录制以及不正当商业行为等相关法规。

xAI被要求在1月20日下午5点前完成整改。

此前，X平台曾于本周表示，已对Grok功能进行限制。X的安全团队称，平台已通过技术手段禁止Grok对穿着比基尼等暴露服装的真实人物图像进行编辑，该措施对所有用户都适用。

但报道指出，X应用和Grok应用仍可生成不良图像。Grok因可在用户请求下对真实人物图像进行“脱衣”处理，并生成未经同意的不良深度伪造内容，正遭遇多国政府的反弹与法律追责。

在发出停止函前，邦塔已公开宣布调查xAI在网上生成并发布未经同意的露骨性内容。

另一起案件中，网红及政治策略顾问阿什莉·圣克莱尔已对xAI提起诉讼，指控Grok使用她未成年时期的照片，在未经同意的情况下生成性露骨深度伪造图像。

英国首相基尔·斯塔默曾在下议院发言称，Grok生成的相关图像“令人作呕、令人羞耻”。印度尼西亚、马来西亚和菲律宾也已宣布封锁Grok，据了解，目前尚无解禁迹象。

截至发稿，加州总检察长办公室未回应媒体置评请求。xAI则通过自动回复称：“传统媒体在撒谎。”