为何公平标签会产生不公平预测：引入不公平性的图条件
机器学习
2022-02-24 v2
摘要
除了复现训练数据中的歧视性关系外，机器学习系统还可能引入或放大歧视性效应。我们将此称为引入的不公平性，并研究其可能产生条件。为此，我们提出以引入的总变异作为引入不公平性的度量，并建立可能促使其发生的图条件。这些准则意味着，在行为良好的损失函数下，将敏感属性作为特征加入可消除引入变异的动机。此外，从因果视角看，引入的路径特定效应揭示了何时特定路径应被视为公平的问题。
引用
@article{arxiv.2202.10816,
title = {Why Fair Labels Can Yield Unfair Predictions: Graphical Conditions for Introduced Unfairness},
author = {Carolyn Ashurst and Ryan Carey and Silvia Chiappa and Tom Everitt},
journal= {arXiv preprint arXiv:2202.10816},
year = {2022}
}
备注
In Proceedings of the AAAI 2022 Conference