上万个AI应用及智能体被处置 南都起底声音克隆乱象

据官方通报，7月6日，“网信中国”发布消息称，自4月启动的“清朗·整治AI应用乱象”专项行动已累计处置违规AI产品——包括应用程序、智能体等——多达1.4万余款，并下架违规AI商品1300多个。与此同时，南都N视频推出的《AI魔性侵权乱象系列调查》将焦点对准声音克隆、虚拟伴侣等AI技术滥用乱象。在AI创作平台上，用户仅需上传3秒原声，即可克隆音色并任意篡改台词——技术门槛之低令人震惊。

南都此前报道内容。

中央网信办此次专项行动分为多个阶段，第一阶段重点整治以下问题：未按规定完成大模型备案登记、AI平台安全审核过滤能力薄弱、AI数据投毒、生成合成内容标识落实不到位等。数据显示，第一阶段累计处置违规AI产品1.4万余款，清理违法违规信息600余万条，处置账号2.6万余个，下架违规AI商品1300余个，违规开源数据集9个。整治力度可谓空前。

各地网信部门也纷纷采取针对性措施。北京网信办建立了“平台自查+常态巡查+技术筛查+线索核查”的联动机制；上海网信办针对不同平台类型细化要求，指导升级举报机制，并主动发布治理公告；广东网信办则协调多部门监管，综合运用技术巡查、人工复核、现场督导、约谈惩戒等方式，对AI应用乱象实施全链条治理。

南都N视频的《AI魔性侵权乱象系列调查》持续深挖滥用AI生成技术背后的产业链。4月上旬，南都记者实测发现，在AI创作平台ViiTor AI上，只需上传3秒原声，几分钟内即可克隆音色并任意修改台词。电影《哪吒之魔童闹海》主角配音演员吕艳婷等人的多段原声，竟赫然出现在平台音色库的公开素材中，使用人数早已过万。而在二手交易平台上，AI声音克隆服务每50字收费不到1元。大量商家声称AI克隆音色相似度超过98%，但当被问及侵权问题时，却直言“问就是有侵权”——态度直白得令人咋舌。

4月7日，知名配音演员季冠霖通过南都发声，呼吁平台建立侵权内容快速识别和下架机制，她表示：“技术应为文明赋能，而非成为侵权的温床。”这番话一针见血地道出了问题的核心。

调查报道发布后，多地监管部门迅速将“AI技术滥用”列为整治重点。4月16日，南都记者再次进入ViiTor AI平台发现，“音色克隆”功能中已无法直接上传音视频文件——原来那个“请上传3-5秒音频或视频”的选项已被删除；公共素材库中也搜索不到“哪吒”等相关音色。可见，此次报道的推动力确实不容小觑。

采写：南都N视频记者 彭雨欣