平台处置超两万条魔改动画，南都起底AI侵权乱象

7月11日，来自平台侧的消息——抖音官方通报了一组数据：近期，针对AI恶意篡改经典儿童动画的现象，平台累计清理了2.34万条违规内容，同时封禁了1300多个违规账号。

根据抖音此次发布的公告，问题集中在几个方面：部分账号打着“儿童动画”“早教启蒙”的旗号，利用AI技术对经典动画进行恶意篡改，过程中植入低俗、暴力内容，直接危害未成年人身心健康。还有的账号通过这类内容诱导互动、吸粉引流，甚至以此牟利。对此，平台方的回应很明确：第一时间下架违规内容，处置相关账号，并且持续升级打击力度。

这里有两个典型案例值得关注。

第一个案例，账号“9*5”。这个账号表面上打着儿童动画的旗号，实际上用AI恶意魔改经典作品，刻意植入暴力悲惨的情节，并配合低龄幼态的暗示话术，诱导未成年人点赞、关注，目的是养号涨粉。平台识别后，直接下架了所有违规内容，并对账号予以禁言。

第二个案例，账号“8*7”。这个账号发布了多个魔改经典动画的视频，内容令人瞠目——植入“把孩子从高空丢下”这样的暴力情节，以及“男生怀孕”等低俗内容。平台识别后，同样是立即下架，并对账号予以禁言。

这些案例背后，其实揭示了一个更值得关注的问题：AI技术滥用带来的侵权乱象，已经形成了一条完整的产业链。

早期调查就能看出端倪。在AI创作平台ViiTor AI上，只需上传3秒原声，几分钟就能克隆出声音并进行任意改词。电影《哪吒之魔童闹海》主角配音演员吕艳婷等人的多段原声，甚至出现在该平台的音色库公开素材中，使用人数早已过万。而在二手交易平台上，AI声音克隆服务每50字的收费还不到1块钱。大量商家声称AI克隆音色相似度超过98%，但当被问及侵权问题时，却直言“问就是有侵权”。

说一个关键细节。4月7日，知名配音演员季冠霖通过媒体发出倡议，呼吁平台建立侵权内容快速识别和下架机制。她的一句话很到位：“技术应为文明赋能，而非成为侵权的温床。”

调查报道发出后，效果是立竿见影的。多地监管部门迅速将“AI技术滥用”列为整治重点领域。4月16日，再回到ViiTor AI平台时发现，“音色克隆”功能中已经无法直接上传音视频文件，原本“请上传3-5秒音频或视频”的选项被删除；公共素材库中也无法搜索到“哪吒”等相关音色。

从平台动作到监管介入，再到技术工具的自我纠偏，这一系列连锁反应，或许才是问题的核心所在。