公平归一化流
机器学习
2022-03-21 v2 人工智能
摘要
公平表示学习是一种有吸引力的方法，它通过对敏感数据进行编码来保证下游预测器的公平性。不幸的是，近期工作表明，强大的对抗性预测器仍可通过从这些表示中恢复敏感属性而表现出不公平性。在本工作中，我们提出公平归一化流（FNF），一种为所学表示提供更严格公平性保证的新方法。具体而言，我们考虑一个实际设定，其中我们可以估计敏感组的概率密度。其核心思想是将编码器建模为归一化流，训练它以最小化不同组的潜在表示之间的统计距离。FNF 的主要优势在于其精确似然计算使我们能够获得对任意潜在对抗性下游预测器的最大不公平性的保证。我们在多个具有挑战性的真实世界数据集上通过实验证明了 FNF 在强制各种群体公平概念方面的有效性，以及其他吸引人的性质，如可解释性和迁移学习。
引用
@article{arxiv.2106.05937,
title = {Fair Normalizing Flows},
author = {Mislav Balunović and Anian Ruoss and Martin Vechev},
journal= {arXiv preprint arXiv:2106.05937},
year = {2022}
}