论解耦与局部公平表示
机器学习
2022-05-06 v1 人工智能
摘要
我们研究以对敏感群体（如种族与性别）公平的方式进行分类的问题。该问题通过解耦与局部公平表示的视角加以解决。我们学习一种局部公平表示，使得在所学表示下，每个样本的邻域在敏感属性上保持平衡。例如，当做出雇佣某人的决策时，我们确保K个最相似的受雇个体在种族上是平衡的。关键在于，我们确保相似个体是基于与其种族不相关的属性来寻找的。为此，我们将嵌入空间解耦为两种表示：第一种与敏感属性相关，第二种则无关。我们仅对第二种不相关的表示应用局部公平目标。通过一组实验，我们证明了解耦与局部公平对于获得公平且准确的表示均为必要。我们在预测收入与再监禁率等真实场景上评估了我们的方法，并展示了其优势。
引用
@article{arxiv.2205.02673,
title = {On Disentangled and Locally Fair Representations},
author = {Yaron Gurovich and Sagie Benaim and Lior Wolf},
journal= {arXiv preprint arXiv:2205.02673},
year = {2022}
}