通过自回归扩散模型捕获条件依赖
机器学习
2025-05-01 v1 机器学习
摘要
扩散模型在图像和视频生成中表现出色，但许多研究发现它们难以捕捉真实世界中存在的重要高层次关系。例如，它们无法从数据中学习物理规律，甚至无法理解世界中对象的稳定存在。这源于重要条件依赖结构在基础扩散模型中未得到充分捕获。本文为深入研究加强扩散模型以捕捉数据中的条件依赖结构而开展工作。具体而言，我们检验了自回归（AR）扩散模型捕获此类结构的有效性，并在（可能较宽松的）数据假设下，对 AR 扩散模型的采样误差提出首个理论结果。我们的理论发现表明，与典型扩散模型相比，AR 变体产生的样本在逼近数据条件分布方面的误差 gap 更小。另一方面，AR 扩散模型的整体推理时间仅略大于基础扩散模型的推理时间，仍适用于大规模应用。我们还提供了实证结果表明，当数据中存在明显的条件依赖结构时，AR 扩散模型能够捕获此类结构，而基础 DDPM 无法做到。相反，当数据中不存在明显的 patch 间条件依赖时，AR 扩散模型不一定优于 DDPM。
引用
@article{arxiv.2504.21314,
title = {Capturing Conditional Dependence via Auto-regressive Diffusion Models},
author = {Xunpeng Huang and Yujin Han and Difan Zou and Yian Ma and Tong Zhang},
journal= {arXiv preprint arXiv:2504.21314},
year = {2025}
}