NestedVAE：基于弱监督分离公共因子
机器学习
2020-02-27 v1 机器学习
摘要
公平且无偏的机器学习是一个重要且活跃的研究领域，因为决策过程日益由从数据中学习的模型所驱动。遗憾的是，数据中存在的任何偏差都可能被模型学到，从而不恰当地将该偏差带入决策过程。我们指出了偏差消减任务与在域间分离公共因子同时鼓励域特定不变性任务之间的联系。为分离公共因子，我们将深度潜变量模型理论与信息瓶颈理论相结合，适用于数据可自然跨域配对且无需额外监督的场景。由此产生了嵌套变分自编码器（NestedVAE）。两个共享权重的外部 VAE 试图重建输入并推断潜空间，而一个嵌套 VAE 试图从其配对图像的潜表示中重建一幅图像的潜表示。通过此举，嵌套 VAE 分离出公共潜因子/原因，并对配对图像间不共享的不期望因子保持不变。我们还提出一种新度量，以提供一种跨域评估一致性与分类器性能的均衡方法，称之为调整奇偶度量（Adjusted Parity metric）。在域与属性不变性、变化检测以及预测生物性别的公共因子学习方面对 NestedVAE 的评估表明，NestedVAE 显著优于替代方法。
引用
@article{arxiv.2002.11576,
title = {NestedVAE: Isolating Common Factors via Weak Supervision},
author = {Matthew J. Vowels and Necati Cihan Camgoz and Richard Bowden},
journal= {arXiv preprint arXiv:2002.11576},
year = {2020}
}