前瞻性反事实公平性
机器学习
2024-12-03 v1 人工智能
机器学习
摘要
随着机器学习 (ML) 算法被用于涉及人类的应用，人们担心这些算法可能对某些社会群体产生偏见。反事实公平性 (CF) 是 Kusner 等人于2017年提出的一种公平性概念，用于衡量 ML 预测的不公平程度；它要求在真实世界中对某个个体而言的预测，其边际分布应与在反事实世界中（即该个体属于不同群体时）的预测相同。尽管 CF 确保公平的 ML 预测，但未考虑 ML 预测对个体后续影响。由于人类是策略性的，往往会因 ML 系统而调整其行为，满足 CF 的预测可能并不导致对个体公平的未来结果。在本文中，我们提出了前瞻性反事实公平性 (LCF)，这是一种考虑 ML 模型后续影响的公平性概念，要求个体的``未来状态''是反事实公平的。我们理论上识别了满足 LCF 的条件，并提出了基于这些定理的算法。我们还将概念扩展到路径依赖性公平性。在合成数据和真实数据上的实验验证了所提出的方法。
引用
@article{arxiv.2412.01065,
title = {Lookahead Counterfactual Fairness},
author = {Zhiqun Zuo and Tian Xie and Xuwei Tan and Xueru Zhang and Mohammad Mahdi Khalili},
journal= {arXiv preprint arXiv:2412.01065},
year = {2024}
}