中文

WeLa-VAE:利用弱标签学习替代解耦表示

机器学习 2020-08-25 v1 人工智能 机器学习

摘要

在无监督或归纳偏置下学习解耦表示,常导致不可解释或不理想的表示。另一方面,严格监督需要对真实生成因子有详细了解,而这并非总是可行。在本文中,我们考虑通过高层标签进行弱监督,这些标签不假定与真实因子显式相关。此类标签虽更易获取,也可作为算法的归纳偏置,用于学习更具可解释性或替代的解耦表示。为此,我们提出 WeLa-VAE,一种变分推断框架,其中观测与标签共享相同潜变量,涉及修正变分下界与总相关正则化的最大化。我们的方法是 TCVAE 的推广,仅增加一个额外超参数。我们在由笛卡尔坐标生成的数据集上实验,表明 TCVAE 学习到因子化的笛卡尔表示,而给定距离与角度的弱标签时,WeLa-VAE 能够学习并解耦极坐标系表示。这无需精细标签,也无需调整层数、优化参数或总相关超参数。

关键词

引用

@article{arxiv.2008.09879,
  title  = {WeLa-VAE: Learning Alternative Disentangled Representations Using Weak Labels},
  author = {Vasilis Margonis and Athanasios Davvetas and Iraklis A. Klampanos},
  journal= {arXiv preprint arXiv:2008.09879},
  year   = {2020}
}