警惕被“生病”AI包围：我们正陷入的危机与应对

假如一个物种世世代代都依靠近亲繁衍，最终会出现怎样的后果呢？

随着基因库多样性不断流失，后代的适应能力将逐步衰退。遗传缺陷会在繁衍过程中持续累积，最终导致整个种群走向衰败，甚至面临灭绝的威胁。

这便是生物学中著名的“近交衰退”现象。

如今，大语言模型正面临同样令人担忧的危机：当人工智能开始使用自身生成的内容进行训练时，就如同生物界的近亲繁殖一样，AI系统也会逐步劣化，最终走向崩溃。

下面这个真实案例将展示AI模型崩溃的全过程

自2023年11月ChatGPT3.5发布以来，网络上充斥着越来越多由AI生成的内容。

新一代模型在训练过程中，不可避免地会将这类内容作为训练数据的一部分。

当AI开始用自己生成的内容训练下一代模型时，输出内容会逐渐丧失多样性，变得越来越单一。

这种情况就像反复复印同一份文件，在每一代模型训练过程中，都会丢失部分信息——特别是那些罕见却至关重要的边缘数据！

让我们通过一个真实实验，观察在递归生成数据上进行训练所引发的模型崩溃现象

实验选用的是Meta公司开发的OPT-125M模型。这个拥有1.25亿参数的小型语言模型，虽然规模有限，却足以完整呈现模型崩溃的全过程。

研究人员让模型生成关于中世纪建筑的文章，然后用生成内容训练下一代模型，如此循环往复。每一代训练完成后，都会输入提示词：

某些始于1360年之前的建筑工程——通常由一位主石匠和一小队巡回石匠完成，并由当地教区劳工补充，根据PoyntzWright的说法。但其他作者拒绝这种模式，认为主要建筑师是基于垂直式建筑的早期范例来设计教区教堂塔楼的。

1、第0代（原始模型）

这个模型能够正常生成关于中世纪建筑的专业内容，讨论哥特式建筑、罗马式建筑等专业话题，整体内容连贯、逻辑清晰。

输出内容：复兴式建筑，如伦敦的圣约翰大教堂。垂直复兴式建筑现存最早的例子出现在18世纪的根西岛圣母教堂，该教堂可追溯到19世纪晚期。垂直式教堂有两种类型：那些……

2、第1代

开始出现轻微的偏离，但仍能保持建筑主题。

输出内容：建筑，如罗马的圣彼得大教堂或布宜诺斯艾利斯的圣彼得大教堂。没有证据表明这些建筑是在教皇英诺森三世统治期间建造的，但有可能是在他的继任者英诺森教皇统治期间建造的……

3、第5代

语义开始严重偏离，出现大量无关内容。

输出内容：主义，已被翻译成100多种语言，包括英语、法语、德语、意大利语、西班牙语、葡萄牙语、荷兰语、瑞典语、挪威语、波兰语、匈牙利语、斯洛伐克语、立陶宛语、爱沙尼亚语、芬兰语、罗马尼亚语、保加利亚语、土耳其语、克罗地亚语、塞尔维亚语、乌克兰语、俄语、哈萨克语、吉尔吉斯语……

4、第9代

经过数次反复循环后，模型的输出从专业的中世纪建筑学讨论，变成了疯狂的彩色杰克兔大全，彻底崩溃了。

输出内容：建筑。除了是世界上最大的黑尾杰克兔、白尾杰克兔、蓝尾杰克兔、红尾杰克兔、黄尾杰克兔种群的栖息地之一……

模型崩溃是如何发生的？

要理解模型崩溃为何会发生，我们需要从信息论的视角来审视这个问题。

还记得香农的数据处理不等式吗？简单来说就是：在任何信息处理链中，信息只会减少或保持不变，而不会增加。

这就像是一个传话游戏：原始人类数据是第一个人说的话，第一代AI模型是第二个人，听到后转述给下一个人（已经存在信息损失了）。

第二代AI模型是第三个人，在已经失真的信息基础上再次转述，每一次传递都会进一步失真，最终的结果可想而知，原本的“今天天气真好”可能变成了“今天有只兔子”！

大语言模型的劣化过程也是如此，每一代训练过程中的误差被累积传递下去，最终导致问题越来越大！

那么模型崩溃会导致什么后果？

首先，模型崩溃会导致所有生成式AI劣化。拿图像生成模型来说，未来AI生成的人脸可能会越来越相似，最终趋向于同一张标准脸。

这是因为随着AI生成的图像在互联网上大量传播，新一代的图像生成模型不可避免地会将这些合成图像作为训练数据。

由于AI生成的人脸往往具有某些共同特征（比如特定的面部比例、肌肤质感、光影效果），当这些特征在训练数据中占据主导地位时，模型就会逐渐遗忘真实人脸的多样性，转而生成越来越标准化、同质化的面孔。

这不仅是技术问题，更是社会危机！模型崩溃甚至可能会颠覆我们整个社会的运转方式！

模型崩溃对人类社会的具体影响有哪些？

1、人类文明将沦为“复制-粘贴”时代

当AI模型发生崩溃后，它们就像患了健忘症的老师，只记得那些最常见、最普通的知识，而把那些珍贵的、独特的文化瑰宝统统忘记了！

随着这些“生病”的大语言模型被使用得越来越频繁，文化多样性就会开始消失！

因为AI只会生成那些大众化的内容，就像所有的餐厅都只做川菜，再也没有粤菜、湘菜、东北菜了。

小众文化、地方特色、民族传统，统统被遗忘！

创意变成了流水线产品，所有AI生成的音乐都是同一个调调，所有的画作都是同一种风格，所有的小说都是同一个套路。就像工厂里生产的商品，千篇一律！

2、偏见被无限放大

AI的偏见会像滚雪球一样越滚越大，影响到教育、新闻、法律判决。

如果某个AI认为“程序员都是宅男”，这个刻板印象就会被无限强化！

历史可能被篡改，未来的AI可能无法准确记录我们这个时代的多元文化，就像古代的史书可能会遗漏很多真实的历史一样。

数十年之后，我们现在所谓的AI味可能会成为这个社会的主流，没有AI味的内容反而是错误的、不正确的。

3、最可怕的后果是单一化的循环！

如果大部分内容都由AI生成，而这些AI又在互相抄作业，那我们的人类文明就会陷入一个可怕的循环：

AI生成内容→人类消费这些内容→AI学习这些内容→生成更相似的内容…

这就像一个巨大的回音室，所有人都会穿一样的衣服，听一样的音乐，看一样的电影，甚至想一样的事情。

这不是科幻电影里的情节，而是我们现在就必须警惕的现实威胁！

如何阻止AI陷落？

现在AI领域的前沿研究者也已经意识到了这个问题，正在想办法拯救我们的AI。

就像人需要吃新鲜蔬菜才能保持健康一样，AI也需要新鲜的人类数据才能保持聪明。

我们可以通过建立人类内容保护区，专门收集和保护人类原创的内容，就像建立自然保护区一样；

与作家、艺术家、音乐家建立长期合作，确保有源源不断的新鲜血液。

另外，我们还可以给AI内容加入识别标志，比如给AI内容打上数字水印，就像钞票上的防伪标记，AI内容也有隐形的防伪码，又或者使用区块链追踪，像快递包裹一样，每个内容都有完整的物流信息。

总之，未来的AI世界，由我们共同书写。模型崩溃并不是AI的宿命，而是我们可以避免的陷阱。