DPM-OT：一种基于最优传输的新型扩散概率模型
计算机视觉与模式识别
2023-07-24 v1 人工智能
摘要
从扩散概率模型（DPMs）中采样可视为分段分布变换，通常需数百或数千步逆扩散轨迹以获得高质量图像。近期设计 DPMs 快速采样器的进展通过知识蒸馏或调整方差 schedule 或去噪方程，在采样速度与样本质量间取得权衡。然而，其在两方面均非最优，且在少步数下常受模式混合困扰。为解决此问题，我们创新性地将逆扩散视为不同阶段的隐变量之间的最优传输（OT）问题，并提出 DPM-OT，一种用于快速 DPMs 的统一学习框架，其以 OT 映射表示的直达通路可在约 10 次函数评估内生成高质量样本。通过计算数据隐变量与白噪声之间的半离散最优传输映射，我们获得从先验分布到数据分布的直达通路，同时显著缓解模式混合问题。此外，我们给出了所提方法的误差界，从理论上保证算法稳定性。大量实验验证了 DPM-OT 在速度和质量（FID 与模式混合）上的有效性与优势，从而代表了生成建模的高效方案。源代码见 https://github.com/cognaclee/DPM-OT。
引用
@article{arxiv.2307.11308,
title = {DPM-OT: A New Diffusion Probabilistic Model Based on Optimal Transport},
author = {Zezeng Li and ShengHao Li and Zhanpeng Wang and Na Lei and Zhongxuan Luo and Xianfeng Gu},
journal= {arXiv preprint arXiv:2307.11308},
year = {2023}
}
备注
iccv2023 accepted