在存在数据集偏差的情况下评估公平性度量指标
机器学习
2018-09-26 v1 机器学习
摘要
数据驱动的算法在各行业的决策中发挥着重要作用。这些算法越来越多地被用于做出对人们社会和经济福祉有重大影响的决策，例如在量刑、贷款审批和警务中。随着此类系统的激增，人们对其潜在歧视性影响的担忧日益增长。特别是，在存在偏差的数据上训练的机器学习系统有可能学习并延续这些偏差。因此，从业者的一个核心挑战是确定其模型是否表现出歧视性偏差。在此我们提出一个案例研究，将偏差检测问题构建为基于观测数据的因果推断问题。我们列举了两种主要的偏差来源：采样偏差和标签偏差，并研究了六种不同的公平性度量指标检测每种偏差类型的能力。基于这些研究，我们提出了一套最佳实践指南，以选择最有可能在偏差存在时检测出偏差的公平性度量指标。此外，我们旨在识别某些公平性度量指标可能未能检测出偏差、反而让从业者误以为其有偏模型正在做出公平决策的条件。
引用
@article{arxiv.1809.09245,
title = {Evaluating Fairness Metrics in the Presence of Dataset Bias},
author = {J. Henry Hinnefeld and Peter Cooman and Nat Mammo and Rupert Deese},
journal= {arXiv preprint arXiv:1809.09245},
year = {2018}
}