警惕！大模型滥用灰产“投毒”，315警示AI治理难题

今年的315晚会揭露了一个名为GEO的业务，他们通过持续向AI模型大量投放软文来"投毒"，让客户的产品在各大主流人工智能模型中登上推荐榜单。对此，有网友感叹：没想到连AI也逃不过"信息腐蚀"的困扰。

当人类长时间沉浸在碎片化的网络信息中，往往会感到注意力难以集中、思维方式变得固化。如今，这种"信息腐蚀"现象已经蔓延到了大型科技公司的AI产品中。依靠堆砌内容让品牌频繁"刷存在感"的灰色操作，其实早在搜索引擎时代就已经"毒害四方"，经历过"竞价排名"事件的网友对此应该并不陌生。

数字世界的"毒害"绝不能等闲视之。当AI推荐虚假的"权威内容"或"名牌产品"，可能会误导用户，导致其遭受经济损失，甚至危及人身安全。这些错误信息被反复传播，不仅会破坏大型模型的信息生态系统，还会持续扭曲公众认知。频繁出现的"AI幻觉"与错误输出，势必会逐渐消耗用户的信任，而染上"信息腐蚀"的AI系统，自然会影响整个行业的长远健康发展。

要清除"毒害"，关键在于堵住"投毒"的漏洞。大型科技公司若想避免重蹈覆辙，就需要主动清理垃圾信息，优化算法、提升模型的抗干扰能力。对AI训练数据进行严格筛查验证，过滤不良信息，确保数据和内容的真实性与可靠性。除了技术手段，堵住漏洞也离不开日益完善的法律法规。在实践层面，需要进一步细化AI生成商业内容的标识标准，厘清AI平台、中介服务商和广告主之间的责任边界，防止"技术外衣"成为规避法律责任的工具。

阻断灰色产业对AI的"投毒"，需要以技术为盾、法律为剑、行业自律为网，形成多方共治的治理格局，确保AI发展始终行驶在"技术向善"的正确轨道上。大型模型出现"信息腐蚀"问题，也提醒着我们：在享受AI带来便利的同时，也要警惕其可能被利用的风险；既要重视算法的推荐，也要保留自己的判断力。毕竟，只有人脑保持清醒，才能让AI不"腐化"。

特约评论员 焦杨

上游评论投稿邮箱：sypl2020@163.com