AIM：数据不公平性的归因、解释与缓解
机器学习
2024-06-19 v2 人工智能
机器学习
摘要
现实世界收集的数据常常包含历史上对弱势群体和个人的歧视。现有的公平机器学习（FairML）研究主要集中在缓解模型预测中的歧视性偏差，而很少致力于探索如何追溯数据中存在的偏见，尽管这对于FairML的透明度和可解释性至关重要。为填补这一空白，我们研究了一个新颖的研究问题：发现反映训练数据中偏见/成见的样本。基于现有的公平性概念，我们提出了一个样本偏差标准，并设计了用于测量和对抗样本偏差的实用算法。推导出的偏差分数提供了数据中历史偏差的直观样本级归因和解释。在此基础上，我们进一步设计了两种通过样本偏差信息指导的最小数据编辑的FairML策略。它们可以在最小或零预测效用损失的情况下，缓解群体和个人不公平性。在多个真实世界数据集上的大量实验和分析证明了我们方法在解释和缓解不公平性方面的有效性。代码可在 https://github.com/ZhiningLiu1998/AIM 获取。
引用
@article{arxiv.2406.08819,
title = {AIM: Attributing, Interpreting, Mitigating Data Unfairness},
author = {Zhining Liu and Ruizhong Qiu and Zhichen Zeng and Yada Zhu and Hendrik Hamann and Hanghang Tong},
journal= {arXiv preprint arXiv:2406.08819},
year = {2024}
}
备注
12 pages, 6 figures, accepted by ACM SIGKDD 2024. Webpage: https://github.com/ZhiningLiu1998/AIM