马斯克xAI承认Grok修图功能遭滥用引争议

1月3日，IT之家报道称，埃隆·马斯克旗下的人工智能公司xAI本周为其聊天机器人Grok推出了全新的图像编辑功能，允许X平台用户在未经原作者同意的情况下修改任何图片，此举随即引发了广泛的用户争议。

而将这场风波彻底推向舆论浪尖的，则源于马斯克本人1月1日的一条指令：他要求Grok将演员本·阿弗莱克的AI梗图替换为自己的面孔，从而在网络上掀起了一股“芭比换装”模仿热潮。

然而，问题的关键在于这项功能并未经过充分的安全验证。有部分别有用心者甚至利用它生成了大量涉及未成年人的不当内容，以及涉及唐纳德·特朗普、普丽蒂·帕特尔等政治人物的图片，这不仅引发了普通用户的不满，也招致了监管机构的密切关注。

对此，xAI在昨日承认，其防护措施确实存在疏漏，公司正在紧急修复。发言人同时强调，涉及儿童的性材料属于“违法且被明令禁止的内容范畴”。

就在前一天，Grok团队声称已审查近期与X用户的交互记录，并将这些事件描述为“个别案例”。他们发现有用户曾要求生成“描绘未成年人穿着极少衣物”的图像。Grok补充表示，公司“正在持续改进，以彻底屏蔽此类不当请求”。

此外，xAI的技术人员帕尔萨·塔吉克也公开承认了这一问题的存在：“感谢反馈，团队正在研究如何进一步收紧我们的限制措施。”

马斯克旗下xAI的产品常因崇尚高自由度与低防护度而引发争议。其AI女友“Ani”可与用户进行调情互动；Grok还曾生成过泰勒·斯威夫特的深度伪造裸露视频，尽管xAI明确禁止“以色情方式描绘人物肖像”。

行业专家指出，更广泛的问题已超越Grok本身。2024年ChatGPT的推出加速了AI生图技术的扩散，目前许多公司都难以有效防止其功能被滥用。这项技术助长了涉及真人的深度伪造色情内容，儿童安全组织称相关问题正在加剧。

监管机构已经拉响警报：英国互联网观察基金会报告称，AI生成的儿童性虐待材料在2025年前六个月激增了400%，并将该增速形容为“令人惊恐”。调查人员现已发现首批“令人信服”的、描绘儿童性虐待的AI生成视频。

印度电子和信息技术部上周五要求政府对Grok的安全功能进行审查。印度官员指出，该平台出现了一种“新趋势”，用户会上传女性照片并要求聊天机器人“减少其衣物并使其性感化”。该部称此行为“不可接受，是对AI功能的严重滥用”。