加州致函马斯克xAI，要求Grok禁止生成未成年色情伪造图

据1月17日《商业内幕》报道，美国加州总检察长罗布·邦塔已于今天凌晨正式向xAI发出要求：必须阻止其聊天机器人Grok生成涉及未成年人的不良深度伪造图像。

在Grok持续被指控可生成未经同意的色情相关内容之后，邦塔办公室向xAI发出一封“终止”函，要求后者立即整改。

邦塔在信中明确要求，xAI必须防止Grok生成任何未经当事人请求的不良图像，或涉及未成年人的相关内容。信函指出，若继续允许此类内容生成或传播，将构成违反加州多项法律的行为，包括深度伪造色情内容、儿童性虐待影像、非法录制以及不正当商业行为等相关法规。

xAI被要求在1月20日下午5点前完成整改。

此前，X平台曾于本周表示，已对Grok功能进行限制。X的安全团队称，平台已通过技术手段禁止Grok对穿着比基尼等暴露服装的真实人物图像进行编辑，该措施对所有用户都适用。

但报道指出，X应用和Grok应用仍可生成不良图像。Grok因可在用户请求下“脱衣”处理真实人物图像、并生成未经同意的不良深度伪造内容，正遭遇多国政府的反弹与法律追责。

在发出停止函前，邦塔已公开宣布调查xAI在网上生成并发布未经同意的露骨性内容。

另一起案件中，网红及政治策略顾问阿什莉·圣克莱尔已对xAI提起诉讼，指控Grok使用她未成年时期的照片，在未经同意的情况下生成性露骨深度伪造图像。

英国首相基尔·斯塔默曾在下议院发言称，Grok生成的相关图像“令人作呕、令人羞耻”。印度尼西亚、马来西亚和菲律宾也已宣布封锁Grok，据了解，目前尚无解禁迹象。

截至目前，加州总检察长办公室未回应媒体置评请求。xAI则通过自动回复称：“传统媒体在撒谎。”