AI自噬：当机器开始吃自己

想象一个生成人脸的人工智能模型，它原本用成千上万张真实照片训练过。你让它生成几千张新面孔，然后把这些人造面孔重新喂回去当训练数据。再让它生成，再喂。几个循环下来，那些脸就不再是脸了——同样的颧骨上糊着同样的模糊痕迹，鼻子和下巴的种类越来越少，整个由照片繁衍出的种群，坍缩成一个令人不安的平均值。

做这个实验的研究者把这种现象称为 模型自噬失调（Model Autophagy Disorder, MAD），这个词刻意呼应了疯牛病。疯牛病的传播，就是牛吃了被磨碎的同类尸体。自噬（autophagy）是生物学里描述细胞消化自身成分的术语，而一个生成模型吃自己产出的东西，干的差不多是同一回事：吃掉自己生产的，从中学习，然后每次变得更虚弱。

递归的陷阱

当模型开始学习由其他模型写成的世界，"生成"就变成了"退化"。这个机制现在有了名字：模型崩溃，由Ilia Shumailov及其同事在2023年的一篇论文中提出，那篇论文的标题更直白：《递归的诅咒》，并在2024年延续了其研究。

想象一下，国内大模型公司如果持续用AI产出的文章、代码、图片来训练下一代模型，会发生什么？就像人类近亲繁殖一样，基因多样性迅速流失。第一批合成数据可能看不出问题，但第三代、第四代之后，模型开始"学舌"——它只会重复自己之前说过的话，对新输入的泛化能力急剧下降。最终，AI的输出变得千篇一律，甚至出现逻辑断裂和事实性幻觉。

这个现象在文字模型上同样成立。如果ChatGPT在网络上持续爬取数据，而那些数据中有相当比例来自它或其他AI生成的文本，那么第二代的回答就会变得更"平"——失去了那些生僻但精准的用词，代之以最安全的平均表达。到了第五代，你可能会得到一个只会说"众所周知"和"需要注意的是"的机器。