带正则化的最小二乘变分贝叶斯自编码器
机器学习
2017-07-12 v1 机器学习
摘要
近年来，变分自编码器（Variational Autoencoders）已成为最流行的用于复杂分布无监督学习的方法之一。变分自编码器（VAE）相比传统自编码器提供了更高效的重建性能。变分自编码器比 MCMC 做出更好的近似。VAE 通过级联隐藏随机层的祖先采样定义生成过程。它们是有向图模型。变分自编码器被训练以最大化变分下界。这里我们试图最大化似然，同时试图对数据做出良好近似。这基本上是权衡数据对数似然与真实后验的 KL 散度。本文描述了这样一种场景：我们希望找到某个参数模型的参数 的点估计，该模型中我们通过先采样局部潜变量然后采样关联观测来生成每个观测。此处我们在图像重建中使用带正则化的最小二乘损失函数，发现最小二乘损失函数能给出更好的重建图像并具有更快的训练时间。
引用
@article{arxiv.1707.03134,
title = {Least Square Variational Bayesian Autoencoder with Regularization},
author = {Gautam Ramachandra},
journal= {arXiv preprint arXiv:1707.03134},
year = {2017}
}