日本政府要求X平台改善Grok AI图像生成不当问题

IT之家消息，1月16日，据《读卖新闻》报道，针对某平台生成式AI图像编辑功能被滥用导致他人照片被加工成色情图像的问题，日本政府已正式介入此事。

当地时间1月15日，日本政府已要求相关平台采取改进措施，防止不当图像被生成和传播。若相关问题持续存在，该国政府将考虑依据《AI法》对企业实施行政指导。这也是在国际社会陆续采取行动的背景下，日本政府首次明确表态并披露具体应对方案。

目前，该平台的图像编辑功能采用的是xAI开发的对话型AI“Grok”。用户可通过两种方式进行图像加工：一种是在回复栏中输入指令文字，另一种是在选择发布图片后，通过编辑界面下达指示。

自去年12月下旬第二种方式上线后，将他人照片加工成泳装或内衣形象的案例在全球范围内激增。日本国内亦出现多起相关事件，包括偶像及疑似未成年人的照片被篡改，甚至被处理成接近裸体的状态。

当地政府人士透露，负责《AI法》的内阁府已于9日以口头方式向该平台提出要求，强调他人图像被轻易加工和扩散的问题十分严重，并要求抑制色情加工图像的生成。

同时，内阁府还着眼于AI法框架下的行政指导可能性，书面询问了该平台对此问题的立场、不当内容生成的拒绝机制，以及未来应对方针，并要求尽快提交说明。截至当地时间15日晚间，该平台尚未作出正式回应。

在具体应对措施方面，该平台已于9日将图片生成功能限制为仅供付费用户使用，并于15日宣布采取技术手段，防止所有用户将现实存在的人物加工成比基尼等形象。然而《读卖新闻》调查发现，截至当地时间15日19时，有关功能仍可用于制作高暴露度图像。

据IT之家了解，日本的《AI法》于去年9月全面施行，旨在推动生成式AI技术创新的同时控制相关风险。该法规定，在发生侵犯公众权利的情况下，政府可对AI企业进行调查，并基于结果提出指导和建议，但并未设立罚则，目前尚无适用先例。