不完美群组信息下的均等几率后处理
机器学习
2020-03-03 v3 机器学习
摘要
大多数旨在确保模型相对于受保护属性（如性别或种族）公平性的方法都假设已知每个数据点的该属性真值。在本文中，我们探讨在仅能获得受保护属性不完美信息的情况下，公平性干预能在多大程度上有效。具体而言，我们研究了Hardt等人（2016）提出的著名均等几率后处理方法在属性受扰动下的表现。我们确定了扰动所需满足的条件，以保证即使使用受扰动的属性运行均等几率，分类器的偏差也会减小。我们还研究了所得分类器的误差。我们通过经验观察到，在我们确定的条件下，误差大多不会因受保护属性的扰动而受损。对于一种特殊情况，我们形式化地证明了该观察成立。
引用
@article{arxiv.1906.03284,
title = {Equalized odds postprocessing under imperfect group information},
author = {Pranjal Awasthi and Matthäus Kleindessner and Jamie Morgenstern},
journal= {arXiv preprint arXiv:1906.03284},
year = {2020}
}