dpVAEs：修复正则化 VAE 的样本生成
机器学习
2020-03-24 v2 计算机视觉与模式识别
机器学习
摘要
在无标注数据情况下，通过生成建模的无监督表示学习是众多计算机视觉应用的基础。变分自编码器（VAEs）是强大的生成模型，可学习有益于数据生成的表示。然而，由于训练目标固有的挑战，VAEs 未能学习适用于下游任务的有用表示。试图改善 VAEs 表示学习方面的基于正则化的方法需付出代价：样本生成质量差。本文探讨正则化 VAEs 的表示—生成权衡，并引入一类新先验，即解耦先验（decoupled priors）或 dpVAEs，将表示空间与生成空间解耦。该解耦使得能在表示空间上应用 VAE 正则化项而不影响用于样本生成的分布，从而在不牺牲样本生成的前提下获取正则化的表示学习收益。dpVAE 利用可逆网络学习从任意复杂表示分布到简单、可处理的生成分布的双射映射。解耦先验可适配最先进 VAE 正则化器而无需额外超参数调优。我们展示了 dpVAEs 与不同正则化器的使用。在 MNIST、SVHN 和 CelebA 上的实验从定量与定性角度表明，dpVAE 修复了正则化 VAEs 的样本生成。
引用
@article{arxiv.1911.10506,
title = {dpVAEs: Fixing Sample Generation for Regularized VAEs},
author = {Riddhish Bhalodia and Iain Lee and Shireen Elhabian},
journal= {arXiv preprint arXiv:1911.10506},
year = {2020}
}