Discond-VAE:从离散因子中解耦连续因子
机器学习
2021-06-18 v2 机器学习
摘要
在真实世界数据中,存在所有类别共有的常见变化(例如类别标签)以及每个类别独有的变化。我们提出了一种能够解耦这两种变化的 VAE 变体。为了表示这些数据的生成因子,我们引入了两组连续潜变量:私有变量和公共变量。我们提出的框架分别将私有变量建模为高斯混合分布,将公共变量建模为高斯分布。私有变量的每个模式对应离散变量的一个类别。以往大多数将离散生成因子整合到解耦中的尝试都假设连续变量与离散变量之间具有统计独立性。我们提出的模型称为 Discond-VAE,通过引入私有变量,将依赖于类别的连续因子从离散因子中解耦出来。实验表明,Discond-VAE 能够从数据中发现私有因子和公共因子。此外,即使在仅包含公共因子的数据集下,Discond-VAE 也不会失效,而是调整私有变量以表示公共因子。
引用
@article{arxiv.2009.08039,
title = {Discond-VAE: Disentangling Continuous Factors from the Discrete},
author = {Jaewoong Choi and Geonho Hwang and Myungjoo Kang},
journal= {arXiv preprint arXiv:2009.08039},
year = {2021}
}