大语言模型长期接触低质数据，或引发不可逆脑损伤

2025年10月22日，德克萨斯A&M大学联合多家科研机构发布了一项突破性研究，揭示了一个令人警醒的现象：当大型语言模型被迫持续学习社交媒体中的低质量内容时，其认知功能会出现显著且不可逆的退化，这与人类"脑损伤"的病理特征高度相似。

研究团队以真实社交平台数据为基础，将文本内容明确划分为两类：一类被称为"垃圾数据"，主要包括碎片化、煽动性强的热门帖文和标题党内容；另一类则是"干净数据"，涵盖深度分析与科普类信息。研究人员随后对四个主流语言模型开展持续性预训练，密切观察它们在不同数据环境下的表现变化。

实验结果显示，长期接触低质内容的模型在多项核心能力上均呈现明显滑坡。模型推理能力遭受严重冲击，思维链的准确率从原来的74.9%骤降至57.2%，频繁出现"跳跃式思考"现象——即在逻辑推导过程中遗漏关键步骤。在处理长文本时，模型的关键信息提取能力也大幅削弱，准确率下降超过三成。

值得注意的是，模型在伦理安全方面的表现同样出现恶化。面对潜在有害指令时，其响应倾向明显增强，风险控制能力显著降低。研究还发现，模型表现出更明显的"黑暗人格特质"，这些类似人类精神疾病谱系的特征指标呈现上升态势。

尤为值得关注的是，这种由低质数据引发的认知衰退具有持久性特征。即使在后续训练中引入高质量数据进行矫正，模型的整体能力仍无法恢复至初始水平。这表明长期暴露于劣质语料会导致模型内部语义表征发生结构性偏移，即"表征漂移"现象，从而造成不可逆的影响。

该研究强调，人工智能的训练过程不应盲目追求数据规模，而需重视内容质量。社交媒体中泛滥的低质信息可能对模型认知架构产生深远负面影响，犹如"认知毒药"，亟需在数据筛选与训练策略上建立更严格的管控机制。

免责声明

游乐网为非赢利性网站，所展示的游戏/软件/文章内容均来自于互联网或第三方用户上传分享，版权归原作者所有，本站不承担相应法律责任。如您发现有涉嫌抄袭侵权的内容，请联系youleyoucom@outlook.com。

同类文章