算法决策中的公平性：基于因果视角的探究
机器学习
2019-03-29 v1 机器学习
摘要
随着我们生活的几乎各个方面日益受到算法决策系统的影响，作为社会，我们有责任确保此类系统不会成为基于性别、种族、民族、宗教等进行不公平歧视的工具。我们通过因果模型的视角来考虑判定此类系统所作决策是否具有歧视性的问题。我们引入了两个基于因果关系的群体公平性定义：平均因果效应公平（FACE）与处理组平均因果效应公平（FACT）。我们使用 Rubin-Neyman 潜在结果框架来分析因果关系，以稳健地估计 FACE 和 FACT。我们在合成数据上展示了所提方法的有效性。我们对两个真实世界数据集的分析——来自 UCI 仓库的 Adult 收入数据集（以性别为保护属性）和 NYC Stop and Frisk 数据集（以种族为保护属性）——表明，由 FACE 和 FACT 获得的歧视证据（或缺乏该证据）通常与其他研究的发现一致。我们进一步表明，与 FACE 相比，FACT 更为细致，可以得出与 FACE 不同的歧视性发现。
引用
@article{arxiv.1903.11719,
title = {Fairness in Algorithmic Decision Making: An Excursion Through the Lens of Causality},
author = {Aria Khademi and Sanghack Lee and David Foley and Vasant Honavar},
journal= {arXiv preprint arXiv:1903.11719},
year = {2019}
}
备注
7 pages, 2 figures, 2 tables.To appear in Proceedings of the International Conference on World Wide Web (WWW), 2019