FAIR：公平对抗式样本重加权方法
机器学习
2020-11-17 v1 人工智能
机器学习
摘要
随着对人工智能社会影响的日益关注，公平性已成为机器学习算法的一个重要方面。问题在于，通过数据收集与标注，人类对由敏感特征（如种族和性别）定义的特定群体的偏见被引入训练数据。确保公平性的研究有两个重要方向：（i）样本加权，以降低更具偏见样本的影响；（ii）对抗训练，以构建对目标变量有信息量、但对敏感属性无信息量的数据表示。本文提出一种公平对抗式样本重加权（FAIR）方法，其利用对抗训练学习确保预测公平的样本加权函数。该方法融合了两种范式，继承了两者的理想特性——重加权的可解释性与对抗训练的端到端可训练性。我们提出该方法的四种不同变体，并除其他外展示了如何将其纳入完全概率框架。此外，对 FAIR 模型性质的理论分析已得到广泛研究。我们将 FAIR 模型与另外 7 种相关及最先进模型比较，表明 FAIR 能够在准确率与不公平性之间实现更好的权衡。据我们所知，这是首个通过加权函数融合重加权与对抗方法、并能提供关于单个样本公平性的可解释信息的模型。
引用
@article{arxiv.2011.07495,
title = {FAIR: Fair Adversarial Instance Re-weighting},
author = {Andrija Petrović and Mladen Nikolić and Sandro Radovanović and Boris Delibašić and Miloš Jovanović},
journal= {arXiv preprint arXiv:2011.07495},
year = {2020}
}