“多样本最优”分布匹配
机器学习
2019-09-30 v1 机器学习
摘要
生成对抗网络（GAN）在生成建模任务中可实现最先进的样本质量，但存在模式崩溃问题。另一方面，变分自编码器（VAE）显式最大化基于重建的数据对数似然，迫使它覆盖所有模式，但样本质量较差。近期工作提出了混合 VAE-GAN 框架，将基于 GAN 的合成似然整合到 VAE 目标中以同时解决模式崩溃与样本质量问题，但成效有限。这是因为 VAE 目标迫使数据对数似然与到潜先验的散度之间做出权衡。合成似然比项在训练中也表现出不稳定性。我们提出了一种带有“多样本最优”重建代价和合成似然稳定直接估计的新目标。这使得我们的混合 VAE-GAN 框架能够同时实现高数据对数似然和低到潜先验的散度，并在模式覆盖与质量上相较混合 VAE-GAN 及普通 GAN 均有显著提升。
引用
@article{arxiv.1909.12598,
title = {"Best-of-Many-Samples" Distribution Matching},
author = {Apratim Bhattacharyya and Mario Fritz and Bernt Schiele},
journal= {arXiv preprint arXiv:1909.12598},
year = {2019}
}