通过公平性感知因果路径分解解释算法公平性
机器学习
2021-08-12 v1
摘要
算法公平性近来在数据挖掘与机器学习界引起了相当关注。迄今已有研究多聚焦于发展定量度量以衡量算法在不同受保护群体间的差异，以及调整算法输出以减小此类差异的方法。本文中，我们提出研究模型差异来源识别问题。与通常学习特征重要性的现有解释方法不同，我们考虑特征变量间的因果关系，并提出一新框架将差异分解为公平性感知因果路径贡献之和，这些路径是图上连接敏感属性与最终预测的链路。我们还考虑了这些路径中某些边方向无法确定的情形。我们的框架亦为模型无关，并可应用于多种定量差异度量。在合成与真实世界数据集上的实证评估表明，该方法能对模型差异提供精确且全面的解释。
引用
@article{arxiv.2108.05335,
title = {Explaining Algorithmic Fairness Through Fairness-Aware Causal Path Decomposition},
author = {Weishen Pan and Sen Cui and Jiang Bian and Changshui Zhang and Fei Wang},
journal= {arXiv preprint arXiv:2108.05335},
year = {2021}
}