解耦表示中的公平性研究
机器学习
2019-10-30 v2 机器学习
摘要
近来，学习解耦表示引起了极大兴趣，因为它们有望增强可解释性、对未知场景的泛化能力，以及在下游任务上更快的学习。在本文中，我们研究了不同解耦概念对于基于表示提升下游预测任务公平性的效用。我们考虑如下设定：目标是从高维观测（如图像）的学习表示中预测目标变量，而这些观测同时依赖于目标变量和一个未观测的敏感变量。我们表明，在此设定下，即便目标变量与敏感变量相互独立，最优预测和经验预测都可能是不公平的。通过分析超过 12600 个训练好的最先进解耦模型的表示，我们观察到若干解耦分数与公平性的提升持续相关，这表明在敏感变量未被观测时，解耦可能是值得鼓励以提升公平性的有用性质。
引用
@article{arxiv.1905.13662,
title = {On the Fairness of Disentangled Representations},
author = {Francesco Locatello and Gabriele Abbati and Tom Rainforth and Stefan Bauer and Bernhard Schölkopf and Olivier Bachem},
journal= {arXiv preprint arXiv:1905.13662},
year = {2019}
}