AI内容标注可能降低真实信息可信度并提升虚假信息可信度

人工智能生成内容正以前所未有的规模涌入社交媒体平台，尤其在科学传播领域。这引发了一个核心关切：这些看似专业的文本，可能混杂着难以辨别的虚假或误导性信息，悄然影响公众认知甚至关键决策。

面对这一挑战，全球多个司法管辖区和社交平台普遍采取了一项直接措施：强制要求对人工智能生成或合成内容进行明确标注。其初衷清晰——为公众设立“警示标识”，辅助辨别信息真伪。然而，这一做法真的能达到预期效果吗？

近期发表于《科学传播期刊》（JCOM）的一项研究，为这项广受推崇的监管策略提供了值得警惕的发现。研究警告，此类强制性披露标签可能产生与初衷背道而驰的效果：它不仅可能无法有效保护真相，反而会削弱真实信息的可信度，同时为虚假信息披上“可信外衣”。

“真伪交叉效应”：一项反直觉的研究发现

AI生成内容的误导风险主要源于两方面。一是技术固有的“幻觉”问题，模型可能生成逻辑连贯但事实错误的表述；二是人为恶意滥用，使用者可故意引导AI生成极具说服力的虚假信息。要求标注AI生成内容，正是为了应对这些风险。

为检验标注的实际效果，来自中国社会科学院大学新闻传播学院的研究团队设计了一项严谨实验。研究聚焦于社交媒体上传播的科学类信息，通过在线平台招募了433名有效参与者。

研究人员基于权威科学辟谣平台内容，利用GPT-4生成了准确版本与误导版本的微博风格文本，并制备了四类实验材料：标注为AI生成的真实信息、未标注的真实信息、标注为AI生成的虚假信息，以及未标注的虚假信息。参与者需对这些帖子的可信度进行量化评估。

结果揭示了一个出乎意料的规律。主导该研究的博士研究生林腾（Teng Lin）将其称为“真伪交叉效应”。简言之，同一个“由AI生成”的标签，会根据所附着信息的真实性，产生截然相反的心理影响：它会降低真实信息的可信度，却反而提升了虚假信息的可信度。

这意味着，在现有认知环境下，简单添加AI标签并不能有效帮助公众甄别信息质量。相反，它以一种矛盾的方式重新分配了信任权重，使真实内容显得“可疑”，却让虚假内容显得“更可信”。

“算法厌恶”的复杂心理机制

深入分析发现，个人对人工智能的固有态度在其中起到调节作用。那些原本对AI持更负面看法的参与者，在看到被标注为AI生成的真实信息时，表现出更显著的信任度下降。

但值得注意的是，即便在这群“算法厌恶”倾向较强的个体中，虚假信息因AI标签获得的“可信度增益”并未完全消失，只是在一定程度上被削弱。而且，这种削弱作用呈现话题敏感性，仅在部分议题中显现，并未形成普遍性的心理免疫。

这揭示了更深层的公众心理机制：人们对AI的警惕，并未形成一概拒绝的“心理防火墙”，而是触发了一种复杂且不对称的认知反应。公众可能对AI生成的真实内容过度怀疑，却未能将同等水平的审慎态度充分应用于AI生成的虚假内容上。

启示与优化方向：如何设计更有效的AI内容标签？

此项研究无疑为相关政策制定者提供了重要警示。它明确显示，任何监管措施在全面推行前，都必须经过基于实证的效果评估。良好的政策初衷，完全可能导致未预料到的负面后果。

那么，如何让AI内容披露机制更加有效？研究团队在论文中提出了若干初步建议，尽管这些方案本身也需要未来研究的进一步验证。

一个核心思路是增加标签的信息承载量。林腾解释，除了简单声明“内容由人工智能生成”，或许应附加“此信息未经独立核实”或“请谨慎对待AI生成内容”等明确警示。换言之，仅告知内容来源可能不足，需要更直接地提示受众应如何评估和处理这类信息。

另一方向是建立分级或分类标注体系。不同领域的科学信息，其误传风险等级存在显著差异。例如，涉及医疗健康建议的内容一旦出错，可能带来严重后果；而关于某项前沿技术的科普内容，风险相对较低。因此，可根据内容类型和潜在社会风险，设计不同强度、不同形式的披露标签，实现更精准的风险沟通。

技术发展的浪潮不会逆转，AI生成内容将日益普及。如何在享受技术便利的同时，维护信息环境的清晰与真实？这项研究提醒我们，解决方案远比一个简单标签复杂。真正的有效路径，可能需要技术工具、监管框架与公众媒介素养三者之间更为精巧的协同与平衡。

你是一名 AI 行业编辑，请围绕下面这条热点输出一份资讯解读：
热点：AI内容标注可能降低真实信息可信度并提升虚假信息可信度要求：
1. 先用一句话解释这条热点在讲什么
2. 再总结它为什么重要
3. 说明会影响哪些 AI 产品或内容方向
4. 最后给出 3 个适合资讯站使用的标题