网信办专项受理AI魔改举报 南都曾曝光声音克隆侵权

6月12日，“网信中国”正式对外发布消息：中央网信办举报中心自本月起开设“涉AI应用乱象举报专区”，此次专项整治覆盖了利用AI技术“魔改”经典影视作品、生成“数字泔水”等14类具体问题。与此同时，媒体同步推出《AI魔性侵权乱象系列调查》，将声音克隆等新型侵权现象带入公众视野——在部分AI创作平台上，用户仅需上传3秒原声音频，即可实现对音色的克隆，甚至随意篡改台词内容。

经典影视剧遭遇AI“魔改”的视频截图，揭示了技术滥用对原创内容的冲击。

为进一步配合“清朗·整治AI应用乱象”专项行动，中央网信办举报中心已正式开通专项举报入口。受理范围被精准划分为“AI应用服务违规类”和“AI信息内容乱象类”两大维度。具体而言，其中涵盖了生成合成内容标识落实不到位、制作并传播虚假不实及暴力低俗信息、利用AI技术“魔改”经典作品、生成所谓的“数字泔水”等14类突出问题，全面覆盖了当前AI应用领域的主要乱象。

媒体在对AI侵权现象进行持续追踪调查时，发现了一系列令人担忧的细节。今年4月上旬，有记者在ViiTor AI平台上进行实测发现：仅需上传3秒原声音频，几分钟内便能成功克隆出一个音色，并自由替换台词。电影《哪吒之魔童闹海》主角配音演员吕艳婷等多位专业人士的原声音频，赫然出现在该平台的公开音色库中，使用次数早已突破万次。更令人震惊的是，在二手交易平台上，AI声音克隆服务的价格低至每50字不到1元，众多商家宣称相似度超过98%。然而，一旦被问及侵权风险，这些商家的回复出奇一致——“问就是有侵权”。

南都此前报道，揭示了这一灰色产业链的蔓延态势。

4月7日，知名配音演员季冠霖通过媒体发出倡议，强烈呼吁平台方建立侵权内容的快速识别与下架机制。她的原话非常值得深思：“技术应为文明赋能，而非成为侵权的温床。”

值得庆幸的是，事情很快出现了转机。调查报道发布后，多地监管部门迅速将“AI技术滥用”列为整治重点。4月16日，记者再次登录ViiTor AI平台发现，“音色克隆”功能中原本“请上传3-5秒音频或视频”的选项已被移除，公共素材库中与“哪吒”相关的音色也已无法搜索到。

同日，ViiTor AI平台相关负责人回应称：“平台公共音色库中的内容均为用户自主上传的UGC内容。平台仅执行必要的合规筛选，不对音色内容进行主动推荐、编辑或干预。对于确属侵权且证据清晰的举报内容，平台会进行核验并采取下架、屏蔽等相应措施。”