通过最优传输解决扩散模型中先验分布不匹配问题
机器学习
2026-02-06 v2 人工智能
摘要
扩散模型（Diffusion Models，DMs）在生成建模方面取得了显著进展。然而，前向终端分布与逆向初始分布之间的不匹配引入了先验误差，导致采样轨迹偏离真实分布，严重限制了模型性能。该问题进一步引发级联问题，包括非零信噪比、累积去噪误差、生成质量下降以及采样效率受限。为解决此问题，本文提出了基于最优传输（Optimal Transport，OT）的先验误差消除框架。具体而言，构建从逆向初始分布到前向终端分布的 OT 映射，以实现两种分布的精确匹配。同时，利用 Wasserstein 距离量化了先验误差的上界，证明了通过 OT 映射可有效消除先验误差。此外，通过推导动态 OT 与概率流之间的渐近一致性，揭示了该方法与扩散过程内在机制高度兼容。实验结果表明，所提方法在理论和实践中均能完全消除先验误差，为优化 DMs 的性能提供了通用且严谨的解决方案。
关键词
引用
@article{arxiv.2410.13431,
title = {Solving Prior Distribution Mismatch in Diffusion Models via Optimal Transport},
author = {Zhanpeng Wang and Shenghao Li and Jiameng Che and Chen Wang and Shangling Jui and Na Lei and Zhongxuan Luo},
journal= {arXiv preprint arXiv:2410.13431},
year = {2026}
}