反事实情境测试：从单维到多维度的差别检测
机器学习
2025-06-10 v2
摘要
我们提出反事实情境测试(CST)，一种用于检测分类器决策中个体歧视的因果数据挖掘框架。CST回答的问题是：若该个体或申诉者的保护属性状态为不同情况，模型结果会如何。它扩展了Thanh等人(2011)基于法律的情境测试(ST)，通过反事实推理实现“差异给定公平性”的概念。ST为每个申诉者在数据集中找到相似的受保护与非受保护实例，分别构建对照组和测试组，并进行比较，以模型输出差异暗示潜在的个体歧视案例。CST则通过建立申诉者生成的反事实情况，反映受保护属性变更如何影响申诉者看似中性属性，从而构建测试组。CST通过在对照组内测试组内比较相似个体，在跨组之间比较不相似个体来检测歧视。我们考虑单维(如性别)与多维(如性别与种族)歧视测试。对于多维歧视，我们研究了多重与交叉性歧视，并发现前者未能充分考虑后者类型的歧视。我们采用k近邻实现方法，在合成数据与真实数据上展示了CST。实验结果表明，CST即使在模型反事实公平时也能发现更多案例，因为CST将反事实公平(CF)的置信区间纳入其中，我们为所有实验报告这些置信区间。
引用
@article{arxiv.2502.01267,
title = {Counterfactual Situation Testing: From Single to Multidimensional Discrimination},
author = {Jose M. Alvarez and Salvatore Ruggieri},
journal= {arXiv preprint arXiv:2502.01267},
year = {2025}
}