基于薛定谔桥的深度生成式学习
机器学习
2021-08-02 v2 计算机视觉与模式识别
摘要
我们提出通过薛定谔桥（Schrödinger Bridge）的熵插值来学习生成模型。生成式学习任务可表述为基于 Kullback-Leibler 散度在参考分布与目标分布之间进行插值。在总体层面上，该熵插值由 上带有时变漂移项的一个 SDE 刻画。在样本层面上，我们将由深度分数估计器和深度密度比估计器估计出的漂移项代入 Euler-Maruyama 方法，推导出我们的薛定谔桥算法。在目标分布的一些温和光滑性假设下，我们证明了分数估计器和密度比估计器的一致性，进而建立了所提薛定谔桥方法的一致性。我们的理论结果保证了该方法学习到的分布收敛于目标分布。在多模态合成数据与基准数据上的实验结果支持了我们的理论发现，并表明通过薛定谔桥的生成模型可与最先进的 GAN 相媲美，从而给出了生成式学习的一种新表述。我们展示了其在图像插值与图像修复中的效用。
引用
@article{arxiv.2106.10410,
title = {Deep Generative Learning via Schr\"{o}dinger Bridge},
author = {Gefei Wang and Yuling Jiao and Qian Xu and Yang Wang and Can Yang},
journal= {arXiv preprint arXiv:2106.10410},
year = {2021}
}