实现预测中的非歧视
机器学习
2018-03-30 v2 机器学习
摘要
歧视感知分类在数据科学领域正受到越来越多的关注。用于构建无歧视分类器的预处理方法首先从训练数据中移除歧视，然后从清洗后的数据学习分类器。然而，当分类器部署用于预测时，它们缺乏对潜在歧视的理论保证。在本文中，我们通过以训练数据和分类器为条件，从数学上界定预测中歧视处于给定区间内的概率，填补了这一空白。我们采用因果模型对数据生成机制建模，并正式定义群体、数据集和预测中的歧视。我们得到两个重要理论结果：(1) 即使训练数据中的歧视被完全移除，预测中的歧视仍可能存在；(2) 并非所有预处理方法都能确保预测中的非歧视，尽管它们能在修改后的训练数据中实现非歧视。基于这些结果，我们开发了一个两阶段框架，用于构建具有理论保证的无歧视分类器。实验证明了理论结果并展示了我们两阶段框架的有效性。
引用
@article{arxiv.1703.00060,
title = {Achieving non-discrimination in prediction},
author = {Lu Zhang and Yongkai Wu and Xintao Wu},
journal= {arXiv preprint arXiv:1703.00060},
year = {2018}
}