网信办通报剪映等AI工具违规 未标识生成内容被责令整改

4月28日，国家网信办“网信中国”发布通报，对“剪映”、“猫箱”App及“即梦AI”平台进行公开点名。通报指出，经网信部门核查，上述平台在运营过程中，未能有效落实人工智能生成合成内容的标识规定，其行为涉嫌违反《网络安全法》、《生成式人工智能服务管理暂行办法》及《人工智能生成合成内容标识办法》等法律法规。

针对此次发现的问题，国家互联网信息办公室已依法指导属地网信部门，对相关责任主体采取了行政约谈、责令限期改正、警告及追究责任人等分级处置措施。此举明确释放了监管部门强化AI生成内容合规治理、压实平台主体责任的强烈信号。

国家互联网信息办公室相关负责人于通报中重申，各互联网平台及AI技术服务提供者必须严格遵守法律法规，坚守安全底线，全面落实AI生成合成内容的标识义务。这不仅是一项法定义务，更是维护网络信息真实性、保护用户知情权、防范技术滥用的关键举措。

通报进一步明确，下一步网信部门将持续深化“依法治网”，加大对人工智能生成合成内容标识情况的监督检查与执法力度。其核心目的在于保障网络空间清朗，维护社会公共利益，引导和促进生成式人工智能技术健康、规范、有序发展。

事实上，我国对AI生成内容的监管框架已日趋完善。自2025年9月1日起正式施行的《人工智能生成合成内容标识办法》，为相关管理提供了明确的法律依据。该办法详细规定了服务提供者的标识责任，规范了从内容生成、编辑到发布、传播的全流程标识要求。其中特别强调，任何组织与个人均不得采取技术手段恶意删除、篡改、伪造或隐匿法定的生成合成内容标识。

需要明确的是，人工智能生成合成内容特指利用深度学习、自然语言处理等AI技术自动生成或合成的文本、图像、音频、视频及数字场景等信息。随着AIGC技术应用的普及，对其进行清晰、显著的标识，已成为保障网络信息生态安全、提升内容可信度、帮助公众有效辨别的必要前提和制度保障。