模型崩溃是什么？AI 吃自己生成的数据会越来越差

模型崩溃（Model Collapse）是指 AI 模型用 AI 生成的数据反复训练后，性能逐渐退化的现象。模型开始生成与真实数据分布相差越来越远的内容，最终输出变得单一、失真，甚至毫无意义。这个问题在 2024 年随着大语言模型的普及受到广泛关注：互联网上 AI 生成的内容越来越多，未来的模型很可能会用这些内容来训练，会不会因此越来越差？

它是怎么发生的

2024 年，牛津大学、剑桥大学等机构的研究者 Shumailov 等人在《自然》杂志上发表论文《用递归生成的数据训练，AI 模型会崩溃》，系统地展示了这一现象。他们的实验是：用一个模型生成数据，用这些数据训练下一代模型，再用下一代模型生成数据训练再下一代，如此循环。结果发现，几代之后，模型的输出质量急剧下降，最后生成的内容变成了重复的、毫无意义的胡言乱语。

原因在于，模型生成的数据并不能完美地还原真实数据的分布。模型倾向于生成“最常见”的内容，而真实数据中那些罕见的、处于分布尾部的信息，在生成数据中出现得更少，甚至消失。每经过一代，这些尾部信息就丢失一部分，误差不断累积，分布变得越来越窄。就像反复复印一张复印件，每复印一次都损失一点细节，最后变得模糊不清。早期的崩溃表现为丢失罕见的信息，后期则会让分布严重失真。

是不是不可避免

后续的研究对这个问题进行了更细致的探讨。比如 2024 年的论文《模型崩溃是不可避免的吗？》指出，如果每一代训练时都用生成数据替换掉真实数据，崩溃确实会发生；但如果生成数据是在保留原有真实数据的基础上“累积”加入的，而不是替换，模型崩溃在很大程度上可以避免。这说明关键在于持续保留高质量的真实人类数据。

启示

模型崩溃提醒业界：高质量的真实人类数据非常宝贵；使用合成数据时需要精心设计和筛选，与真实数据混合使用，并对数据来源进行追踪；区分和标注 AI 生成的内容，对未来训练数据的质量也很重要。实践中，经过精心设计、带有验证和筛选的合成数据，依然被大量用于训练模型并取得很好的效果，问题主要在于不加控制地循环使用。