中文

PRI-VAE:相关信息原理变分自编码器

机器学习 2020-07-14 v1 机器学习

摘要

尽管在变分自编码器(VAE)框架下学习解耦表示已获大量努力,多数VAE模型学习动力学的根本性质仍未知且研究不足。本工作中,我们首先提出一新学习目标,称为相关信息原理变分自编码器(PRI-VAE),以学习解耦表示。随后我们呈现信息论视角,通过检视若干关键信息论量在训练轮次间的演化来分析现有VAE模型。我们的观察揭示了与VAEs相关的一些基本性质。经验结果亦在四个基准数据集上展示了PRI-VAE的有效性。

关键词

引用

@article{arxiv.2007.06503,
  title  = {PRI-VAE: Principle-of-Relevant-Information Variational Autoencoders},
  author = {Yanjun Li and Shujian Yu and Jose C. Principe and Xiaolin Li and Dapeng Wu},
  journal= {arXiv preprint arXiv:2007.06503},
  year   = {2020}
}