立场：模型崩溃并非你以为的那样
机器学习
2025-03-19 v2 人工智能
计算机与社会
摘要
AI 生成内容在线上的泛滥引发了对模型崩溃的担忧，即当生成模型在由早期模型生成的合成数据上训练时，其性能会出现退化。行业领袖、顶级研究期刊和大众科学出版物 alike 都预言了模型崩溃可能带来的灾难性社会后果。在这篇立场文章中，我们认为这种广泛流传的叙事从根本上误解了科学证据。我们指出，关于模型崩溃的研究实际上涵盖了八种截然不同且有时相互矛盾的定义，并认为论文内部和论文之间术语的不一致阻碍了对模型崩溃的全面理解。为了评估模型崩溃的不同解释对未来生成模型的威胁程度，我们提出了我们认为研究模型崩溃的现实条件，然后通过这一视角对文献中的方法论进行了严格的评估。虽然我们保留合理分歧的空间，但我们按每项研究与其现实条件的匹配程度加权的分析表明，某些关于模型崩溃的预测性主张依赖于与现实条件不符的假设，事实上几种突出的崩溃场景是很容易避免的。总之，这篇立场论文认为模型崩溃已被从一个精细的多面考量扭曲为一个过于简化的威胁，而证据表明在社会当前轨迹下更可能发生的一些特定危害受到了不成比例的关注。
引用
@article{arxiv.2503.03150,
title = {Position: Model Collapse Does Not Mean What You Think},
author = {Rylan Schaeffer and Joshua Kazdan and Alvan Caleb Arulandu and Sanmi Koyejo},
journal= {arXiv preprint arXiv:2503.03150},
year = {2025}
}