日本要求X平台改进Grok生成不当AI图像，或面临法律措施

1月16日消息，据《读卖新闻》报道，针对某社交平台生成式AI图像编辑功能被滥用、用户照片被篡改为色情图片等问题，日本政府已正式介入。

当地政府于1月15日要求该平台采取改进措施，防止不当图像被生成和传播。若相关问题持续存在，日本政府将考虑首次依据《AI法》对企业实施行政指导。这也是在国际社会陆续采取行动的背景下，日本政府首次明确表态并披露具体应对方案。

目前，该平台的图像编辑功能使用的是xAI开发的对话式AI“Grok”。用户可通过两种方式进行图像加工：一种是在回复栏中输入指令文字，另一种是在选择发布图片后，通过编辑界面下达指示。

自去年12月下旬第二种方式上线后，将他人照片加工成泳装或内衣形象的案例在全球范围内激增。日本国内也出现多起相关事件，包括偶像及疑似未成年人的照片被篡改，甚至被处理成接近裸露的状态。

当地政府人士透露，负责《AI法》的内阁府已于9日以口头方式向该平台提出要求，强调他人图像被轻易加工和扩散的问题十分严重，并要求抑制色情加工图像的生成。

同时，内阁府还着眼于《AI法》框架下的行政指导可能性，书面询问了该平台对该问题的立场、不当内容生成的拒绝机制，以及未来应对方针，并要求尽快提交说明。截至当地时间15日夜间，该平台尚未作出正式回应。

在具体应对措施方面，该平台已于9日将图片生成功能限制为仅限付费用户使用，并于15日宣布采取技术手段，防止所有用户将现实存在的人物加工成比基尼等形象。然而《读卖新闻》调查发现，截至当地时间15日19时，有关功能仍可用于制作高暴露度图像。

据了解，日本的《AI法》于去年9月正式全面施行，旨在推动生成式AI技术创新的同时控制相关风险。该法规规定，在发生侵犯公众权利的情况下，政府可对AI企业进行调查，并基于结果提出指导和建议，但并未设立罚则，目前尚无适用先例。