理由不充分的差异影响：子群公平性的一个新准则
机器学习
2023-06-21 v1 计算机与社会
机器学习
摘要
在本文中，我们提出一个新准则“理由不充分的差异影响”（insufficiently justified disparate impact, IJDI），用于评估算法决策支持工具所给出的推荐（二值化预测）是否公平。我们基于效用的新颖 IJDI 准则评估假阳性与假阴性错误率的不平衡，识别出即使在调整组间基础率差异后仍存在、且具有统计显著性的组间差异。我们描述了一种新颖的 IJDI-Scan 方法，可高效识别跨越数据多个观测属性定义的、具有最显著 IJDI 的交叉子群体。为评估 IJDI-Scan 的性能，我们在模拟与真实世界数据上进行了实验，包括再犯风险评估与信用评分。此外，我们在这些领域中实现并评估了针对所检测子群体缓解 IJDI 的方法。
引用
@article{arxiv.2306.11181,
title = {Insufficiently Justified Disparate Impact: A New Criterion for Subgroup Fairness},
author = {Neil Menghani and Edward McFowland and Daniel B. Neill},
journal= {arXiv preprint arXiv:2306.11181},
year = {2023}
}
备注
31 pages, 9 figures