反事实公平机会：用反事实推理度量决策模型公平性
机器学习
2023-02-17 v1 人工智能
计算机与社会
摘要
人工智能与机器学习模型日益广泛的应用带来了不公平行为的潜在风险，并且鉴于近期法规，已引起研究社群的关注。若干研究者聚焦于寻求新的公平性定义或开发识别有偏预测的方法。然而，无人尝试利用反事实空间来实现此目的。在此方向上，本工作提出的方法旨在无意识公平设定下，使用反事实推理揭示不公平的模型行为。定义了等机会的反事实版本，称为反事实公平机会，并引入了两个分析反事实样本敏感信息的新指标。在三个不同数据集上的实验结果显示了我们的方法学与指标的有效性，揭露了经典机器学习与去偏模型的公平性行为缺失。
引用
@article{arxiv.2302.08158,
title = {Counterfactual Fair Opportunity: Measuring Decision Model Fairness with Counterfactual Reasoning},
author = {Giandomenico Cornacchia and Vito Walter Anelli and Fedelucio Narducci and Azzurra Ragone and Eugenio Di Sciascio},
journal= {arXiv preprint arXiv:2302.08158},
year = {2023}
}