InfoVAE:信息最大化变分自编码器
机器学习
2018-05-31 v3 人工智能
机器学习
摘要
学习生成模型的一个关键进展是使用与模型联合训练的摊销推理分布。我们发现,现有的变分自编码器训练目标可能导致不准确的摊销推理分布,并且在某些情况下,改进目标函数可证明会降低推理质量。此外,已有观察表明,当变分自编码器与过于灵活的解码分布结合时,往往会忽略潜在变量。我们再次在现有训练准则中找到了原因,并提出了一类新的目标函数(InfoVAE)来缓解这些问题。我们证明,我们的模型可以显著提高变分后验的质量,并且无论解码分布的灵活性如何,都能有效利用潜在特征。通过广泛的定性和定量分析,我们展示了我们的模型在多个性能指标上优于竞争方法。
引用
@article{arxiv.1706.02262,
title = {InfoVAE: Information Maximizing Variational Autoencoders},
author = {Shengjia Zhao and Jiaming Song and Stefano Ermon},
journal= {arXiv preprint arXiv:1706.02262},
year = {2018}
}