人工智能信任危机：如何应对AI时代的“一本正经胡说八道”

当前，以大语言模型为代表的生成式AI正以前所未有的速度融入社会生产与生活的各个领域。从健康管理、消费选择到日常的知识查询，越来越多的用户开始将AI视为获取信息与服务的重要入口。然而，一个不容忽视的挑战也随之凸显：AI频繁出现的“事实性幻觉”问题，正在悄然动摇用户信任的根基，甚至对产业安全和公众权益构成了现实风险。

从实际反馈来看，“信源污染”是导致AI输出可信度下降的核心症结。2026年中央广播电视总台“3·15”晚会曾专项曝光了一项名为“生成式引擎优化”（GEO）的黑灰产业链。部分机构利用AIGC技术，能够大规模制造虚假内容，通过向大模型“投喂”虚构的产品信息和排名数据，在短时间内即可污染AI的检索与生成结果，从而形成一条严重误导消费者的完整链条。这并非危言耸听，近期科普媒体的双盲测试提供了更直观的数据印证：在缺乏权威信源支撑的情况下，主流AI模型在关键事实上的回答偏离率高达26.4%；而一旦接入经过验证的权威知识库，这一比率可迅速降至4.1%以内。数据对比鲜明，有力印证了“高质量信源是AI准确性的基石”这一核心逻辑。更具警示意义的是，清华大学相关团队的研究报告也指出，多个主流大模型在事实性评测中的幻觉率超过了19%。

由此引发的思考，已超越了纯粹的技术优化范畴。当人工智能大模型日益深度地介入用户的信息获取与决策辅助过程时，其输出的真实性、可靠性与可控性，就直接关系到整个数字生态的健康运行，更与公众的切身利益紧密相连。在这样的背景下，提升AI可信度已不再是单一企业的技术挑战，而是关乎行业全局、影响社会长期发展的系统性治理课题。