BELM：用于扩散模型精确反演的双向显式线性多步采样器
计算机视觉与模式识别
2024-10-11 v1 机器学习
摘要
扩散模型采样的反演，即找到样本对应的初始噪声，在许多任务中起着关键作用。最近，一些启发式的精确反演采样器被提出，以无需训练的方式解决反演不精确的问题。然而，这些启发式采样器的理论性质尚不明确，且它们通常表现出平庸的采样质量。在本文中，我们引入了一个通用公式，即双向显式线性多步（BELM）采样器，用于精确反演采样器，它包含了所有先前提出的启发式精确反演采样器作为特例。BELM公式源自变步长变公式线性多步方法，并加入了双向显式约束。我们强调，这种双向显式约束是精确数学反演的关键。我们在BELM框架内系统地研究了局部截断误差（LTE），并表明现有的启发式精确反演采样器产生次优的LTE。因此，我们通过LTE最小化方法提出了最优BELM（O-BELM）采样器。我们进行了额外的分析，以证实所提出的最优采样器的理论稳定性和全局收敛性。大量实验表明，我们的O-BELM采样器在实现精确反演的同时，实现了高质量的采样。在图像编辑和图像插值方面的实验进一步突显了O-BELM在各种应用中广泛应用的潜力。
引用
@article{arxiv.2410.07273,
title = {BELM: Bidirectional Explicit Linear Multi-step Sampler for Exact Inversion in Diffusion Models},
author = {Fangyikang Wang and Hubery Yin and Yuejiang Dong and Huminhao Zhu and Chao Zhang and Hanbin Zhao and Hui Qian and Chen Li},
journal= {arXiv preprint arXiv:2410.07273},
year = {2024}
}
备注
accepted paper by NeurIPS