能量引导的熵正则化神经最优传输
机器学习
2024-03-19 v4 机器学习
摘要
基于能量的模型（EBMs）在机器学习界已为人所知数十年。自可追溯到二十一世纪初的 EBMs 开创性工作以来，已出现大量通过能量势（未归一化似然函数）解决生成建模问题的高效方法。相比之下，最优传输（OT）领域，尤其是神经 OT 求解器，探索甚少，且局限于少数近期工作（不包括以 OT 为损失函数但不对 OT 映射本身建模的基于 WGAN 的方法）。在我们的工作中，我们弥合了 EBMs 与熵正则化 OT 之间的鸿沟。我们提出了一种新方法，可利用前者的近期进展与技术改进来丰富后者。从理论角度，我们证明了该技术的泛化界。在实践中，我们在玩具 2D 与图像域验证了其适用性。为展示可扩展性，我们以预训练的 StyleGAN 增强我们的方法，并将其应用于高分辨率 AFHQ 非配对 I2I 翻译。为简洁起见，我们选择简单的短程与长程 EBMs 作为我们能量引导的熵 OT 方法的骨干，将更复杂 EBMs 的应用留待未来研究。我们的代码见：https://github.com/PetrMokrov/Energy-guided-Entropic-OT
引用
@article{arxiv.2304.06094,
title = {Energy-guided Entropic Neural Optimal Transport},
author = {Petr Mokrov and Alexander Korotin and Alexander Kolesov and Nikita Gushchin and Evgeny Burnaev},
journal= {arXiv preprint arXiv:2304.06094},
year = {2024}
}