通过非平衡最优传输的半对偶形式进行生成建模
计算机视觉与模式识别
2024-02-07 v3 机器学习
摘要
最优传输（OT）问题研究一个连接两个分布并最小化给定代价函数的传输映射。在这方面，可处理先验分布与数据之间的 OT 已被用于生成建模任务。然而，基于 OT 的方法易受离群点影响，并在训练期间面临优化挑战。在本文中，我们提出一种基于非平衡最优传输（UOT）半对偶形式的新型生成模型。与 OT 不同，UOT 放宽了分布匹配的硬约束。该方法针对离群点提供了更好的鲁棒性、训练期间的稳定性以及更快的收敛。我们通过实验在经验上验证了这些性质。此外，我们研究了 UOT 中分布间散度的理论上界。我们的模型优于现有的基于 OT 的生成模型，在 CIFAR-10 上达到 2.97 的 FID 分数，在 CelebA-HQ-256 上达到 6.36。代码见 \url{https://github.com/Jae-Moo/UOTM}。
引用
@article{arxiv.2305.14777,
title = {Generative Modeling through the Semi-dual Formulation of Unbalanced Optimal Transport},
author = {Jaemoo Choi and Jaewoong Choi and Myungjoo Kang},
journal= {arXiv preprint arXiv:2305.14777},
year = {2024}
}
备注
23 pages, 15 figures