任人唯亲式训练的生成式 AI 模型发生崩溃
人工智能
2025-04-01 v2 计算机视觉与模式识别
摘要
经过海量人类生成内容训练的 AI 生成图像合成能够复现语义连贯且与训练数据视觉外观匹配的图像。我们表明，当这些生成式 AI 模型即便在少量自身生成内容上重新训练时，也会产生高度失真的图像。我们还表明这种失真超出了重训练中所用文本提示的范围，且一旦受影响，即便仅在真实图像上重新训练，模型也难以完全恢复。
引用
@article{arxiv.2311.12202,
title = {Nepotistically Trained Generative-AI Models Collapse},
author = {Matyas Bohacek and Hany Farid},
journal= {arXiv preprint arXiv:2311.12202},
year = {2025}
}