MAE：面向变分自编码器的互后验散度正则化
机器学习
2019-01-08 v1 计算机视觉与模式识别
机器学习
摘要
变分自编码器（Variational Autoencoder, VAE）是一种简单而有效的深度生成模型，已取得一系列令人瞩目的实证成功，并催生了许多高级变体及理论探究。然而，近期研究表明，当配备具表达力的生成分布（即解码器）时，VAE 会因所谓的 KL 消失现象而学到无信息量的潜在表示，此时 VAE 退化为无条件生成模型。本工作中，我们引入互后验散度正则化，一种能够控制潜在空间几何结构以实现有意义表示学习，同时获得可比或更优密度估计能力的新正则化方法。在三个图像基准数据集上的实验表明，当配备强大解码器时，我们的模型在密度估计与表示学习上均表现良好。
引用
@article{arxiv.1901.01498,
title = {MAE: Mutual Posterior-Divergence Regularization for Variational AutoEncoders},
author = {Xuezhe Ma and Chunting Zhou and Eduard Hovy},
journal= {arXiv preprint arXiv:1901.01498},
year = {2019}
}
备注
Published at ICLR-2019. 12 pages contents + 4 pages appendix, 5 figures