抖音AI生成内容违规处罚：近8000账号涉未成年低俗信息被处置

12月18日，“抖音黑板报”公众号发布公告称，近一个月来，平台对涉及未成年人的违规场景加大了治理力度，共计清理相关违规内容20.2万余条，并对超过8000个账号实施了包括清理违规增长粉丝、限制商业变现功能、禁言、封禁等不同梯度的处罚。

公告指出，近期平台发现，部分用户利用AI技术手段升级其违规侵害未成年人合法权益的行为。

例如，利用AI生成低俗擦边的未成年人形象，进行所谓的“养号涨粉”；

或是生成虚假的未成年人“卖惨”内容，以此博取同情并牟取不当利益；

更有甚者，恶意魔改经典动画、动漫及文学形象，炮制含有血腥、暴力、低俗等不良元素的“儿童邪典”内容，对未成年人身心健康造成危害。

根据公告内容，平台已对相关违规内容进行了下架处理，并对违规账号予以从严处置。

公告中通报的部分典型案例如下：

针对利用AI生成未成年人低俗擦边内容的行为，有39个账号被处以全面禁言。

诸如“雪 * 象”、“群 **”等账号多次发布由AI生成的、衣着暴露且刻意突出敏感部位的幼态化形象，以此营造低俗擦边观感，并借此“养号涨粉”。平台已立即下架相关违规内容，涉事账号因恶意违规已被无限期禁言。

针对利用AI生成未成年人卖惨内容的行为，有180个账号被全面禁言。

“1*2”、“7*9”等账号批量发布利用AI生成的“早产婴儿住院”、“寒冬中未成年人背负柴火哭泣”等内容，刻意营造未成年人悲惨处境，并通过文案、话题标签等诱导用户在评论区互动，以此吸粉引流。平台已下架相关内容，并对账号处以清理违规粉丝、限制商业变现、禁言等处罚。

针对炮制暴力“邪典动画”的行为，有391个账号被全面禁言。

“2*8”、“1*g”等账号打着“儿童动画”的标签，利用动画人物形象制作AI视频，演绎残害肢体等血腥暴力、低俗恐怖的画面，危害未成年人身心健康。平台已下架相关违规内容，并对账号处以禁言处罚。