抖音一个月处罚超8000账号，AI生成低俗内容成治理重点

IT之家12月18日消息，“抖音黑板报”官方公众账号今日下午发布公告称，近一个月来，平台针对涉未成年人的违规场景进行了专项治理。期间，共计清理相关违规内容超过20.2万条。

平台对8000余个涉事账号采取了阶梯式处罚，包括但不限于清理违规增长粉丝、限制商业变现功能、禁言乃至封禁账号等处置措施。

公告指出，近期平台发现，部分用户开始利用AI技术升级违规手段，侵害未成年人合法权益。

具体表现为：利用AI生成涉及未成年人的低俗擦边形象，以此“养号涨粉”；生成虚假的未成年人“卖惨”内容，博取同情不当牟利；甚至恶意魔改经典动画、动漫和文学形象，炮制含有血腥、暴力、低俗等不良元素的“儿童邪典”内容，严重危害未成年人身心健康。

IT之家从公告获悉，平台已对相关违规内容作下架处理，并对违规账号予以从严处置。

公告中通报的部分典型案例如下：

案例一：AI生成未成年人低俗擦边内容，39个账号被全面禁言

“雪 * 象”、“群 **”等账号多次发布由AI生成的、衣着暴露且刻意突出敏感部位的幼态化形象，以此营造低俗擦边观感，借机“养号涨粉”。平台已立即下架相关违规内容，涉事账号因恶意违规已被无限期禁言。

案例二：AI生成未成年人卖惨内容，180个账号被全面禁言

“1*2”、“7*9”等账号批量发布利用AI生成的“早产婴儿住院”、“寒冬中未成年人背负柴火哭泣”等内容，刻意营造未成年人悲惨处境，并通过文案、话题标签等诱导用户在评论区互动，以此吸粉引流。平台已下架相关内容，并对账号处以清理违规粉丝、限制商业变现、禁言等处罚。

案例三：AI炮制暴力“邪典动画”，391个账号被全面禁言

“2*8”、“1*g”等账号打着“儿童动画”标签，使用动画人物形象制作AI视频，演绎残害肢体等血腥暴力、低俗恐怖画面，危害未成年人身心健康。平台已下架相关违规内容，并对账号处以禁言处罚。