贝叶斯因子VAE:用于因子解耦的层次贝叶斯深度自编码器模型
机器学习
2019-09-10 v1 计算机视觉与模式识别
机器学习
摘要
我们提出了一族新颖的层次贝叶斯深度自编码器模型,能够识别数据中解耦的变异性因子。虽然近期许多关于因子解耦的尝试都集中在VAE框架内复杂的学习目标上,但它们选择标准正态分布作为潜在因子先验既是次优的,也对性能有害。我们的关键观察是,负责主要变异来源的解耦潜在变量,即相关因子,可以使用长尾分布更恰当地建模。另一方面,典型的高斯先验更适合于对冗余因子进行建模。受此启发,我们通过在高斯潜在先验的方差上引入超先验,将VAE扩展为一个层次贝叶斯模型,模拟了一个无限混合,同时保持了传统VAE的可处理学习和推断。该分析表明了将对应于相关因子和冗余因子的潜在维度进行划分并以不同方式处理的重要性。我们提出的模型,称为Bayes-Factor-VAEs,在多个具有挑战性的基准任务中,在潜在解耦方面,无论是定量还是定性上都显示出优于现有方法的性能。
引用
@article{arxiv.1909.02820,
title = {Bayes-Factor-VAE: Hierarchical Bayesian Deep Auto-Encoder Models for Factor Disentanglement},
author = {Minyoung Kim and Yuting Wang and Pritish Sahu and Vladimir Pavlovic},
journal= {arXiv preprint arXiv:1909.02820},
year = {2019}
}
备注
International Conference on Computer Vision (ICCV) 2019