反事实公平：通过正则化消除直接效应
人工智能
2020-02-27 v2 机器学习
摘要
构建对非特权群体公平的机器学习模型是一个热点问题。现代公平感知算法常忽略因果效应，并通过仅适用于机器学习模型子集的修改来强制公平。在本工作中，我们提出一种新的公平定义，通过受控直接效应（CDE）引入因果性。我们开发正则化以应对经典公平度量，并提出了一种因果正则化，其通过消除非特权群体变量对模型结果的影响（以 CDE 度量）来满足我们的新公平定义。这些正则化适用于任何通过使用微分迭代最小化损失进行训练的模型。我们在合成数据集、UCI Adult（人口普查）数据集和真实世界信用风险数据集上，使用梯度提升和逻辑回归展示了我们的方法。我们发现所得结果减轻了预测中的不公平性，且模型性能仅有微小下降。
引用
@article{arxiv.2002.10774,
title = {Counterfactual fairness: removing direct effects through regularization},
author = {Pietro G. Di Stefano and James M. Hickey and Vlasios Vasileiou},
journal= {arXiv preprint arXiv:2002.10774},
year = {2020}
}
备注
10 pages, 4 figures