预测模型的交叉性偏差审计
机器学习
2023-06-23 v1
摘要
在聚合意义上满足受保护类别群体公平准则、但不保证子群体公平的预测模型，可能对处于两个或多个受保护类别交集中的个体产生偏差预测。为应对这一风险，我们提出条件偏差扫描（CBS），一种用于检测分类模型中交叉性偏差的灵活审计框架。CBS 识别出相对于非受保护类别中同等子群体而言，对受保护类别存在最显著偏差的子群体，并可纳入针对概率化与二值化预测的多种常用公平性定义。我们表明，该方法能够检测 COMPAS 审前风险评估工具中先前未被识别的交叉性与情境性偏差，并且相较于审计子群体公平性的同类方法具有更高的偏差检测能力。
引用
@article{arxiv.2306.13064,
title = {Auditing Predictive Models for Intersectional Biases},
author = {Kate S. Boxer and Edward McFowland and Daniel B. Neill},
journal= {arXiv preprint arXiv:2306.13064},
year = {2023}
}
备注
29 pages, 7 figures