用于不公平边优先级排序与歧视消除的因果线性模型:量化边流与边不公平性
人工智能
2021-03-12 v4 计算机与社会
机器学习
摘要
执法部门在缓解潜在不公平之前必须优先处理不公平来源,因其资源有限。与以往仅提出歧视警示并在数据生成后去偏的文献不同,本文试图在真实世界中缓解不公平之前优先处理不公平来源。我们假设一个代表数据生成过程的因果贝叶斯网络,以及导致不公平的敏感节点均已给定。我们量化边流(即沿边流动、通过衰减间接路径影响而得到的信念),并用以量化边不公平性。我们证明,在给定无误差的条件概率线性模型时,若边不公平性不存在,则任何决策(如司法保释)对任何敏感群体(如种族)的累积不公平性都不存在。我们随后度量当边不公平性降低时缓解累积不公平性的潜力。基于这些度量,我们提出一种不公平边优先级排序算法以优先处理不公平边,以及一种歧视消除流程以对生成的数据分布去偏。实验部分验证了用于量化上述度量的设定。
引用
@article{arxiv.2007.05516,
title = {A Causal Linear Model to Quantify Edge Flow and Edge Unfairness for UnfairEdge Prioritization and Discrimination Removal},
author = {Pavan Ravishankar and Pranshu Malviya and Balaraman Ravindran},
journal= {arXiv preprint arXiv:2007.05516},
year = {2021}
}
备注
Accepted in the Workshop on Law and Machine Learning, ICML 2020; First two authors contributed equally