分析与缓解修正流模型中的模型坍塌
计算机视觉与模式识别
2025-02-11 v2 机器学习
摘要
随着合成内容在网络上的泛滥，利用合成数据进行训练正变得日益不可避免，这得益于近期深度生成模型的卓越性能。对合成数据的依赖也可以是有意的，例如修正流（Rectified Flow）模型，其 Reflow 方法迭代地使用自生成数据来拉直流场并提高采样效率。然而，近期研究表明，反复在自生成样本上训练可能导致模型坍塌（MC），即性能随时间退化。尽管如此，大多数关于 MC 的近期工作要么聚焦于经验观察，要么分析回归问题和最大似然目标，使得对 Reflow 方法的严格理论分析尚未被探索。本论文旨在填补这一空白，为解决扩散/流模型中的 MC 提供理论分析和实用方案。我们首先研究去噪自编码器（DAE），证明了当 DAE 在其自身输出上迭代训练时性能会退化。据我们所知，我们是首次对 DAE 中的模型坍塌进行严格分析，并由此推广至扩散模型和修正流。我们的分析和实验表明修正流同样遭受 MC，导致每个 Reflow 步骤可能出现性能退化。此外，我们证明在递归 DAE 训练中引入真实数据可以防止 MC，支持了近期利用真实数据作为缓解 MC 有效方法的趋势。基于这些洞察，我们提出了一种新颖的真实数据增强 Reflow（RA Reflow）及其一系列改进变体，通过利用反向流将真实数据无缝融入 Reflow 训练。在标准图像基准上的实验评估证实，RA Reflow 有效缓解了模型坍塌，即使在较少采样步数下也能保持高质量样本生成。
引用
@article{arxiv.2412.08175,
title = {Analyzing and Mitigating Model Collapse in Rectified Flow Models},
author = {Huminhao Zhu and Fangyikang Wang and Tianyu Ding and Qing Qu and Zhihui Zhu},
journal= {arXiv preprint arXiv:2412.08175},
year = {2025}
}