英国监管调查xAI：Grok生成与传播色情内容引争议

IT之家2月4日消息，彭博社报道称，埃隆·马斯克旗下的人工智能公司xAI正在接受英国数据保护监管机构的调查。随着监管审查趋严，其人工智能聊天机器人Grok被指用于生成并传播涉及真人的色情合成图像，目前正面临更严格的监管审查。

英国信息专员办公室（ICO）在当地时间周二的一份声明中表示，此次正式调查将重点关注生成此类图像的详细过程，以确认其中是否存在对个人数据的不当处理行为。

上月，在马斯克旗下的社交媒体平台X上，有用户诱导聊天机器人Grok，在未经当事人同意的情况下，生成了针对特定真人（主要为女性，甚至包括儿童）的人工智能情色合成图像，此举引发了公众与政界的强烈愤慨。据报道，有用户在女性发布的个人照片下留言，向Grok下达“给她脱衣”、“给她穿上比基尼”等指令。彭博社报道称，Grok每小时能生成数千张此类情色图像。xAI最终限制了Grok在X平台上的图像生成功能，但该聊天机器人仍在多个国家被临时封禁，同时还面临欧盟和法国方面的调查。

周二早些时候，法国执法部门突击搜查了X公司位于巴黎的办公室，这是针对该社交媒体平台涉嫌滥用行为刑事调查的一部分，调查范围包含色情深度伪造内容。

英国信息专员办公室有权对xAI处以最高1750万英镑（IT之家注：现汇率约合1.66亿元人民币），或其全球年销售额4%的罚款，以两者中金额更高者为准。该机构表示，此次曝光的色情内容生成事件“根据英国数据保护法引发了严重关切，对公众存在重大潜在伤害风险”。

监管机构将核查xAI是否合法、公正、透明地处理个人数据，以及该公司是否设置了充分的安全防护措施，以阻止有害深度伪造内容的生成。信息专员办公室的威廉·马尔科姆在声明中透露，该机构正与英国通信管理局（Ofcom）及国际组织协同开展调查。

本月早些时候，ICO曾公开表示已联系X欧洲用户的数据控制方——爱尔兰实体X Internet Unlimited公司，及其母公司xAI，要求其明确为遵守英国数据保护法所采取的合规措施，本次ICO调查正是在此之后启动。

另外，英国通信管理局表示，Grok独立应用程序不在其调查范围内，原因是通过该应用生成的内容不会自动公开。