Wasserstein-Wasserstein 自编码器
机器学习
2019-02-26 v1 机器学习
摘要
为应对学习深度生成模型中的挑战(例如变分自编码器的模糊性以及生成对抗网络训练的不稳定性),我们提出了一种新颖的深度生成模型,称为 Wasserstein-Wasserstein 自编码器(WWAE)。我们将 WWAE 表述为目标分布与生成分布之间带惩罚的最优传输的最小化。注意到隐变量 Z 的先验 和聚合后验 均可由高斯分布很好地刻画,所提出的 WWAE 在优化过程中利用了两个高斯分布之间平方 Wasserstein-2 距离的闭式解。因此,WWAE 不受采样负担的困扰,并通过利用重参数化技巧实现计算高效。在包括 MNIST、fashion-MNIST 和 CelebA 在内的多个基准数据集上的数值结果表明,WWAE 比 VAE 学到了更好的隐结构,并生成了比 VAE 和 GAN 视觉质量更好、FID 分数更高的样本。
引用
@article{arxiv.1902.09323,
title = {Wasserstein-Wasserstein Auto-Encoders},
author = {Shunkang Zhang and Yuan Gao and Yuling Jiao and Jin Liu and Yang Wang and Can Yang},
journal= {arXiv preprint arXiv:1902.09323},
year = {2019}
}