大模型如何助力AI谣言治理？深度解析技术对抗策略

在信息爆炸的时代，每个热点事件的传播都难免伴随着谣言的滋生。随着生成式AI技术的普及应用，网络谣言的制造和传播正呈现出愈演愈烈的态势。清华大学新闻与传播学院最新研究数据表明，2024年利用AI技术制造的虚假信息数量呈现显著增长趋势，其中涉及经济与企业类别的AI谣言增长速度尤为突出。

免费影视、动漫、音乐、游戏、小说资源长期稳定更新！ 👉 点此立即查看 👈

目前，包括抖音、微信公众号、微博、快手在内的多家社交平台均已设立专业辟谣账号，定期对流传较广的不实信息进行澄清。但值得注意的是，某平台内容审核负责人透露，生成式AI技术极大降低了制造和传播谣言的技术门槛。由于平台核实信息真实性需要一定时间，这些虚假信息往往能在核查的空窗期迅速扩散，甚至对社会秩序造成不良影响。

据警方披露的典型案例显示，某些不法团伙利用AI工具批量生产谣言内容，通过其旗下数百个自媒体账号进行矩阵式传播，短短数日内就能发布海量不实信息。这些谣言经过网络发酵后引发的二次讨论和传播更是难以估量。

该平台负责人补充道，即便在热点事件中平台及时发布了辟谣信息，但其传播效果往往远不及原始谣言。大多数用户只会接触到不实信息，而错过权威的澄清内容。"造谣一张嘴，辟谣跑断腿"的现象长期困扰着各大平台的治理团队。9月16日，抖音在开放日活动上推出的"AI抖音求真"功能，为网络谣言治理开辟了新的技术思路。

用AI技术对抗AI谣言

今年以来，"歌手陈奕迅去世""演员于朦胧遗体"等多起AI炮制的恶性谣言事件频发，严重扰乱了网络舆论环境。在此之前，平台主要依靠内容审核人员的经验来甄别快速发酵的网络流言。

抖音生态治理团队负责人透露，今年上半年在研判"华山医院前院长客死海外"相关信息时，就因发现大量内容雷同的自媒体帖子而察觉到AI参与的蛛丝马迹。

传统的人工审核主要关注信息中的逻辑漏洞、常识性错误，以及是否具有权威信源背书。但随着生成式AI技术日益精进，这些经验判断的准确性正面临挑战。这也促使平台加速推进技术化审核系统的建设。

抖音不实信息治理负责人李博介绍，平台近期已引入大模型技术来提升谣言识别能力。这款经过专业训练的"AI谣言鉴定专家"不仅能效仿人工审核的逻辑，更在效能上实现质的飞跃。

以今年7月"老年人乘车新规"的谣言为例，智能系统通过解析视频画面、文字和音频内容，快速锁定谣言要点，经全网权威信源比对后确认其失实性，并实现了对同类内容的批量处理。数据显示，引入该技术后，平台谣言曝光量显著下降67%，识别准确率达到85%且持续优化中。

对于暂时难以确定真实性的信息，平台另设"存疑内容"处理模块。通过多重验证机制，对高可信度的不实信息直接处置，存疑内容则转入人工复核流程。目前，团队正致力于将专业知识库和社区达人反馈纳入系统优化范畴。

加强运营投入破解辟谣困局

虽然技术手段能处理部分明显谣言，但仍有大量模糊信息需要人工介入。目前多数平台的主要精力仍集中在已确认谣言的处置上，对存疑信息的治理仍存在较大提升空间。

在解决信息真实性存疑问题上，微博和抖音采取了创新举措。微博推出的智能搜索功能，让用户一键获取事件完整脉络；抖音则升级"AI求真"功能，直接在争议视频下方展示权威信息。据统计，该功能日均曝光量已突破1亿次。

传统的信息治理模式侧重于事后处置，用户需要主动搜索才能获取真相。新策略则通过提升真实信息的可见度，让用户在浏览过程中自然接触到权威信息。抖音内容安全专家李青松介绍，平台对存疑内容会采取限流措施，待官方确认后再做进一步处理。

以近期演员于朦胧坠楼事件为例，在警方结论公布前，各平台对相关猜测性内容均采取了流量管控措施。不过平台方也坦言，当前网络环境中谣言的传播渠道仍然多元，治理工作任重道远。

在李博看来，谣言的成因复杂多样，既有恶意编造，也有误解传播，甚至部分观点在二次传播中逐渐失真。他指出："治理网络谣言是一场需要持续投入的攻坚战，需要技术与智慧的不断创新。"