变分 InfoMax 自编码器
机器学习
2020-11-10 v2 机器学习
摘要
变分自编码器 (Variational AutoEncoder, VAE) 同时学习推断模型和生成模型，但这两个模型中只有一个可以最优学习，这种行为与 ELBO 学习目标相关联，该目标被非信息生成器优化。为了解决这一问题，我们提供了一个学习目标，在保持网络容量有界的同时学习最大信息生成器：变分 InfoMax (Variational InfoMax, VIM)。VIM 推导的贡献有两个方面：一个同时学习最优推断和生成模型的目标，以及网络容量的明确定义，即网络鲁棒性的一种估计。
引用
@article{arxiv.1905.10549,
title = {The Variational InfoMax AutoEncoder},
author = {Vincenzo Crescimanna and Bruce Graham},
journal= {arXiv preprint arXiv:1905.10549},
year = {2020}
}