印尼马来西亚禁止聊天机器人Grok防范AI生成色情

近期，印度尼西亚与马来西亚相继宣布，将暂时禁止美国企业家埃隆·马斯克旗下的人工智能聊天机器人Grok，主要原因是担忧该工具被滥用于生成色情内容。

据新华社报道，印尼通信和数字事务部长默蒂娅·哈菲达10日在一份声明中指出，此举对于保护公众免受人工智能生成的露骨图像所带来的危害是必要的。她同时要求马斯克旗下的社交媒体平台X，就Grok引发的负面影响尽快作出说明。

紧随其后，马来西亚通讯及多媒体委员会11日也发布声明，宣布暂时禁止该国用户访问Grok。原因是，Grok+ 被反复滥用来生成色情内容、露骨的性内容、极度冒犯且不雅的内容，以及在未经同意的情况下生成被操纵的图像。

Grok+ 由马斯克旗下的人工智能公司 xAI 开发。去年8月，公司推出了AI工具——Grok+ Imagine，该工具可根据文字提示或上传图片编辑生成AI图像，继而转化为短视频内容。据商业内幕报道，已有用户利用这一工具对图像中的人物进行“数字脱衣”，然后将编辑后的性暴露照片投向社交平台。

xAI 已将 Grok 整合进社交平台 X。而印度尼西亚是全球 X 用户数量第三多的国家。印尼政府在一份声明中表示，“未经同意的、性化的深度伪造行为严重侵犯了公民在数字空间中的人权、尊严和安全。”

法国政府本月早些时候对美媒表示，将对Grok生成的露骨色情深度伪造内容展开调查。英国数据监管机构则称，已要求X平台解释在遵守数据保护法律方面所采取的措施。印度政府近日在一封致X公司的信中表示，Grok正被“用户滥用”，以“贬损或粗俗的方式生成女性图像或视频，从而对她们进行猥亵诋毁”。与此同时，美国多名参议员要求苹果和谷歌将X和Grok+从其应用商店下架。

为应对各方批评，xAI于9日宣布，将Grok在社交媒体平台X上的图像生成功能，限制为仅向付费订阅用户开放。不过，独立运行的Grok应用程序仍允许用户在无需订阅的情况下生成图像。