中文

用于不公平边优先级排序与歧视消除的因果线性模型:量化边流与边不公平性

人工智能 2021-03-12 v4 计算机与社会 机器学习

摘要

执法部门在缓解潜在不公平之前必须优先处理不公平来源,因其资源有限。与以往仅提出歧视警示并在数据生成后去偏的文献不同,本文试图在真实世界中缓解不公平之前优先处理不公平来源。我们假设一个代表数据生成过程的因果贝叶斯网络,以及导致不公平的敏感节点均已给定。我们量化边流(即沿边流动、通过衰减间接路径影响而得到的信念),并用以量化边不公平性。我们证明,在给定无误差的条件概率线性模型时,若边不公平性不存在,则任何决策(如司法保释)对任何敏感群体(如种族)的累积不公平性都不存在。我们随后度量当边不公平性降低时缓解累积不公平性的潜力。基于这些度量,我们提出一种不公平边优先级排序算法以优先处理不公平边,以及一种歧视消除流程以对生成的数据分布去偏。实验部分验证了用于量化上述度量的设定。

关键词

引用

@article{arxiv.2007.05516,
  title  = {A Causal Linear Model to Quantify Edge Flow and Edge Unfairness for UnfairEdge Prioritization and Discrimination Removal},
  author = {Pavan Ravishankar and Pranshu Malviya and Balaraman Ravindran},
  journal= {arXiv preprint arXiv:2007.05516},
  year   = {2021}
}

备注

Accepted in the Workshop on Law and Machine Learning, ICML 2020; First two authors contributed equally