DispaRisk：通过可用信息审计公平性
机器学习
2025-06-02 v3
摘要
机器学习算法(ML)几乎影响人类生活的方方面面，并已在包括医疗、金融和教育在内的不同领域得到应用。通常，ML算法被发现会加剧数据集中存在的社会偏见，从而对个体子集/群体产生不利影响，在许多情况下对少数群体影响尤甚。为了有效减轻这些不良影响，在ML管道的早期识别差异/偏见至关重要。这种主动方法有助于及时干预以防止偏见放大，并降低模型开发后期阶段的复杂性。在本文中，我们利用可用信息理论的最新进展，引入了DispaRisk，这是一个新颖的框架，旨在在ML管道的初始阶段主动评估数据集中潜在的差异风险。我们通过将DispaRisk与公平性研究中常用的数据集进行基准测试来评估其有效性。我们的研究结果表明，DispaRisk能够识别具有高歧视风险的数据集，检测ML管道中易产生偏见的模型族，并增强这些偏见风险的可解释性。这项工作通过提供一个用于早期偏见检测和缓解的鲁棒工具，有助于开发更公平的ML系统。
引用
@article{arxiv.2405.12372,
title = {DispaRisk: Auditing Fairness Through Usable Information},
author = {Jonathan Vasquez and Carlotta Domeniconi and Huzefa Rangwala},
journal= {arXiv preprint arXiv:2405.12372},
year = {2025}
}