公平性与准确性的权衡：因果视角
机器学习
2024-12-23 v2 人工智能
机器学习
摘要
基于机器学习的系统可能基于敏感特征（如性别、性取向、宗教或种族）表现出歧视性行为。鉴于此，人们提出了各种公平性概念和量化歧视的方法，导致了构建公平预测器的多种方法的发展。同时，施加公平性约束可能会降低决策者的效用，凸显了公平性与效用之间的紧张关系。这种紧张关系在法律框架中也得到承认，例如1964年民权法案第七章的差别影响原则——其中特别关注业务必要性的考虑——可能允许使用与敏感属性相关的代理变量，如果无法在没有它们的情况下实现足够高的效用。在这项工作中，我们首次从因果角度分析公平性与准确性之间的紧张关系。我们引入了路径特定超额损失（PSEL）的概念，它捕捉了当施加因果公平性约束时预测器损失的增加量。然后我们证明，总超额损失（TEL）定义为在所有因果路径上公平的预测器与无约束预测器的损失之差，可以分解为更局部的PSEL之和。同时，施加因果约束通常会减少人口群体之间的差异。因此，我们引入了一个总结公平-效用权衡的量，称为因果公平/效用比，定义为歧视减少量与约束因果路径导致的超额损失之比。该量适用于比较不同因果路径上的公平-效用权衡。最后，由于我们的方法需要因果约束的公平预测器，我们引入了一种新的神经方法用于因果约束的公平学习。
引用
@article{arxiv.2405.15443,
title = {Fairness-Accuracy Trade-Offs: A Causal Perspective},
author = {Drago Plecko and Elias Bareinboim},
journal= {arXiv preprint arXiv:2405.15443},
year = {2024}
}