基于 Wasserstein 距离的高斯混合模型
机器学习
2018-06-13 v1 机器学习
摘要
同时具有离散与连续潜变量的生成模型受到许多真实世界数据集结构的强烈驱动。然而,它们在训练中呈现微妙之处,常表现为离散潜变量利用不足。本文中,我们表明当使用 Wasserstein 自编码器的最优传输框架时,此类模型更易于训练。我们发现离散潜变量在训练时被模型充分利用,而无需对目标函数作任何修改或显著微调。我们的模型在使用相对简单的神经网络的同时生成了与其他方法可比的样本,因为离散潜变量承担了大部分描述负担。此外,离散潜变量对生成提供了显著控制。
引用
@article{arxiv.1806.04465,
title = {Gaussian mixture models with Wasserstein distance},
author = {Benoit Gaujac and Ilya Feige and David Barber},
journal= {arXiv preprint arXiv:1806.04465},
year = {2018}
}
备注
8 pages, 5 figures