门控变分自编码器：引入弱监督以促进解耦
计算机视觉与模式识别
2019-11-18 v1 机器学习
摘要
变分自编码器（VAEs）提供了一种生成代表性潜在嵌入的手段。先前的研究强调了实现解耦表征的好处，特别是对下游任务而言。然而，关于如何用 VAE 促进解耦存在一些争论，且有证据表明现有 VAE 实现不能稳定地实现解耦。对 VAE 潜在空间解耦程度的评估通常针对我们关于给定问题中哪些属性应被解耦的主观预期进行。因此，按定义，我们已经拥有关于应实现目标的领域知识，却仍使用无监督方法来达成它。我们提出一种弱监督方法，将任何可用的领域知识纳入训练过程以形成门控 VAE（Gated-VAE）。该过程涉及对代表性嵌入进行划分并门控反向传播。所有划分在前向传播中均被使用，但梯度根据所选图像/目标配对通过不同划分反向传播。该方法可用于修改现有 VAE 模型，如 beta-VAE、InfoVAE 和 DIP-VAE-II。实验表明，使用门控反向传播后，潜在因子在其预定划分中被表示。该方法应用于人脸图像，以解耦头部姿态与面部表情。定量指标显示，与未门控实现相比，使用 Gated-VAE 改善了平均解耦度、完备性与信息量。潜在遍历的定性评估证明了其对头部姿态与表情的解耦，即使在仅有弱/噪声监督时亦如此。
引用
@article{arxiv.1911.06443,
title = {Gated Variational AutoEncoders: Incorporating Weak Supervision to Encourage Disentanglement},
author = {Matthew J. Vowels and Necati Cihan Camgoz and Richard Bowden},
journal= {arXiv preprint arXiv:1911.06443},
year = {2019}
}