中文

利用 Wasserstein 自编码器学习解耦表示

机器学习 2020-10-09 v1 计算机视觉与模式识别 机器学习

摘要

解耦表示学习无疑受益于目标函数的改进。然而,仍需要精细的平衡调节,以在重建保真度与解耦程度之间进行权衡。基于先前对潜变量总相关性进行惩罚的成功经验,我们提出 TCWAE(总相关性 Wasserstein 自编码器,Total Correlation Wasserstein Autoencoder)。在 WAE 范式下工作可自然实现总相关性项的分离,从而提供对所学表示的解耦控制,同时在重建代价的选择上更具灵活性。我们提出使用不同 KL 估计量的两种变体,并在具有已知生成因子的数据集上进行广泛的定量比较,显示出与最先进(SOTA)技术相竞争的结果。我们进一步在具有未知生成因子、更困难的数据集上研究解耦与重建之间的权衡,其中 WAE 范式在重建项上的灵活性改善了重建效果。

关键词

引用

@article{arxiv.2010.03459,
  title  = {Learning disentangled representations with the Wasserstein Autoencoder},
  author = {Benoit Gaujac and Ilya Feige and David Barber},
  journal= {arXiv preprint arXiv:2010.03459},
  year   = {2020}
}