WeLa-VAE:利用弱标签学习替代解耦表示
机器学习
2020-08-25 v1 人工智能
机器学习
摘要
在无监督或归纳偏置下学习解耦表示,常导致不可解释或不理想的表示。另一方面,严格监督需要对真实生成因子有详细了解,而这并非总是可行。在本文中,我们考虑通过高层标签进行弱监督,这些标签不假定与真实因子显式相关。此类标签虽更易获取,也可作为算法的归纳偏置,用于学习更具可解释性或替代的解耦表示。为此,我们提出 WeLa-VAE,一种变分推断框架,其中观测与标签共享相同潜变量,涉及修正变分下界与总相关正则化的最大化。我们的方法是 TCVAE 的推广,仅增加一个额外超参数。我们在由笛卡尔坐标生成的数据集上实验,表明 TCVAE 学习到因子化的笛卡尔表示,而给定距离与角度的弱标签时,WeLa-VAE 能够学习并解耦极坐标系表示。这无需精细标签,也无需调整层数、优化参数或总相关超参数。
引用
@article{arxiv.2008.09879,
title = {WeLa-VAE: Learning Alternative Disentangled Representations Using Weak Labels},
author = {Vasilis Margonis and Athanasios Davvetas and Iraklis A. Klampanos},
journal= {arXiv preprint arXiv:2008.09879},
year = {2020}
}