发现并消除直接与间接歧视的因果框架
机器学习
2016-11-23 v1
摘要
反歧视是数据科学中一项日益重要的任务。本文研究了从历史数据中发现直接和间接歧视，并在数据用于预测分析（例如构建分类器）之前消除歧视性影响的问题。我们利用因果网络来捕捉数据的因果结构。随后，我们将直接和间接歧视建模为路径特定效应，从而明确区分这两类歧视，即沿网络中不同路径传递的因果效应。在此基础上，我们提出了一种发现直接和间接歧视的有效算法，以及一种在保持良好数据效用的同时精确消除这两类歧视的算法。与以往工作不同，我们的方法能够确保基于修改后数据构建的预测模型在决策中不会产生歧视。使用真实数据集的实验表明了所提方法的有效性。
引用
@article{arxiv.1611.07509,
title = {A causal framework for discovering and removing direct and indirect discrimination},
author = {Lu Zhang and Yongkai Wu and Xintao Wu},
journal= {arXiv preprint arXiv:1611.07509},
year = {2016}
}