理解β-VAE中的解耦
机器学习
2018-04-11 v1 人工智能
机器学习
摘要
我们提出关于变分自编码器中解耦表示涌现的新直觉与理论评估。从率失真理论视角，我们展示了在训练过程中优化β-VAE中修正的ELBO界时，与数据潜在生成变化因子对齐的表示在何种情况下涌现。基于这些见解，我们提出对β-VAE训练机制的修正，即在训练期间逐步增加潜码的信息容量。该修正促进了β-VAE中解耦表示的鲁棒学习，且无需此前在重建精度上的权衡。
引用
@article{arxiv.1804.03599,
title = {Understanding disentangling in $\beta$-VAE},
author = {Christopher P. Burgess and Irina Higgins and Arka Pal and Loic Matthey and Nick Watters and Guillaume Desjardins and Alexander Lerchner},
journal= {arXiv preprint arXiv:1804.03599},
year = {2018}
}
备注
Presented at the 2017 NIPS Workshop on Learning Disentangled Representations