欧盟调查马斯克Grok生成儿童色情图像：涉嫌违法

1月6日消息，因人工智能聊天机器人Grok在社交平台X上生成了包含未成年人在内的性化图像，欧盟正以极为严肃的态度审视埃隆·马斯克旗下的这款产品。

免费影视、动漫、音乐、游戏、小说资源长期稳定更新！ 👉 点此立即查看 👈

欧盟委员会发言人托马斯·雷尼耶在当地时间周一的新闻发布会上表示：“我们已经注意到，X平台或其旗下Grok推出的‘火辣模式’会生成露骨涉性内容，部分内容还包含儿童形象相关画面。”他所谓的“火辣模式”是Grok于去年推出的功能，可生成带有性暗示的内容。“这根本算不上什么’火辣’，而是违法行为。”

X平台用户一直在诱导Grok对人物照片进行数字化“脱衣”处理，这类照片的主体往往是女性，处理后的人物看起来仅身着内衣或比基尼。这类图像在这一热门社交平台上的泛滥，引起了全球监管机构和网络安全倡导者的警惕，印度、英国、法国等多国官员均对相关帖文提出强烈谴责。

马斯克于上周日在X平台发文称，该平台会通过移除非法内容、永久封禁账号以及必要时配合最新调查等方式，对非法内容采取整治措施。他在帖文中强调：“任何利用Grok生成非法内容的人，都将面临与上传非法内容同等的后果。”

主流人工智能模型大多严禁生成涉性图像和视频，而xAI却将Grok定位为更具开放性的产品。该系统允许生成成年人局部裸露及带有性暗示的图像，但明令禁止生成涉及真人肖像的露骨色情内容，以及涉及未成年人的涉性内容。在美、英等部分国家，未经本人同意便发布由人工智能生成的个人隐私“深度伪造”内容属于违法行为。如何界定并执行这些内容边界，是对图像生成类人工智能工具内置安全机制的一项关键考验。

xAI显然未能实施有效的防护措施，这招致了全球监管机构的谴责。

英国媒体监管机构英国通讯管理局（Ofcom）于当地时间周一表示，已知晓外界对Grok功能存在的“重大担忧”，并已“紧急联系X平台和xAI公司，要求其说明为履行保护英国用户的法律义务所采取的措施”。

法国政府于当地时间周五指控，Grok在未经当事人同意的情况下，于X平台生成“明显违法”的涉性内容，并指出此事可能违反欧盟《数字服务法案》。该法案要求大型平台采取措施，降低非法内容传播的风险。

印度电子和信息技术部已责令对Grok的安全功能展开全面审查；马来西亚最新也表示，在接到关于Grok生成“低俗”内容的投诉后，正对此事展开调查。

此前，马斯克旗下的X平台就已因涉嫌违反欧盟《数字服务法案》接受调查，并于去年12月因合规不力被处以1.2亿欧元（注：现汇率约合9.82亿元人民币）的罚款，这也是这项颇具争议的内容监管法案开出的首张罚单。欧盟对X等美国科技企业的重点监管举措，遭到了美国总统唐纳德·特朗普政府的强烈批评，美方称欧洲监管机构的做法是在“审查言论自由”。