AI生成"大新闻"背后：真假难辨的时代陷阱

近日，"华山医院前院长张明远在洛杉矶去世"的消息在网络疯传，后被证实竟是AI合成的虚假信息。

这则假新闻曾在多个微信群中广泛传播。界面新闻记者发现，即便是在媒体从业者聚集的微信群中，大家讨论时也仅是就信息内容本身进行分析，竟无人质疑其真实性。

抖音生态治理团队相关人士向界面新闻透露，他们在核查时发现该消息已充斥中文互联网，连专业医疗社区也转发了相关内容。"团队之所以怀疑可能是AI造谣，是因为注意到大量自媒体发布的内容高度雷同。"

平台辟谣行动

抖音团队迅速展开调查：先是查阅华山医院官网医生名录，未能找到"张明远"；接着搜索外媒报道，同样未见相关消息。与院方核实后，平台立即对该谣言进行处理。

2023年类似案例层出不穷：从"80后死亡率数据"到"核电池供电"传言，从"明星澳门豪赌"到"陈奕迅去世"...

AI生成内容的逼真程度使网络谣言治理面临新挑战。

新规出台

9月1日起，《人工智能生成合成内容标识办法》正式实施，要求AI服务提供商须对生成内容进行显式标识，并鼓励采用数字水印等隐式标记技术。

抖音、快手等主流平台迅速响应新规，相继上线内容标识功能。显式标识帮助用户识别AI内容，隐式元数据则为内容溯源提供技术支持。

AI谣言新特征

随着生成式AI普及，网络谣言呈现出全新特点。相比过去"黑木耳清血管"等常识类谣言，AI制造的假新闻往往紧扣时事热点，更具情绪煽动性。

据观察，这些AI假新闻主要分为两类：一类借热点事件发酵，如协和医院"4+4"事件中流传的虚假手术记录；另一类则纯属虚构，如"四川滑坡男子笑脸"等完全杜撰的新闻。

更棘手的是，AI生成的谣言常配有图片、视频等多模态"证据"，大大增强了欺骗性。

平台应对措施

抖音已升级AI内容标识系统，对疑似AI内容添加警示标签；微博则建立分级处置机制，根据影响程度对未标识AI内容账号采取不同处罚。

百度除技术识别外，还开通用户举报通道。但从业人士指出，目前最有效的防范方式仍是核实信息来源的权威性。

多位专家表示，虽然平台正积极采取措施，但要完全遏制AI假新闻仍任重道远。清华大学陆洪磊副教授指出，AI技术正在重塑谣言传播生态，传统辟谣手段已难以应对。

免责声明

游乐网为非赢利性网站，所展示的游戏/软件/文章内容均来自于互联网或第三方用户上传分享，版权归原作者所有，本站不承担相应法律责任。如您发现有涉嫌抄袭侵权的内容，请联系youleyoucom@outlook.com。

最新文章