解释偏差缓解的连锁效应
机器学习
2023-12-04 v1 计算机与社会
摘要
在机器学习系统中,偏差缓解方法旨在使特权群体与非特权群体之间的结果更加公平。偏差缓解方法以不同方式发挥作用,并具有已知的"瀑布式"效应,例如,在某一处缓解偏差可能会在另一处显现偏差。在本文中,我们旨在刻画应用缓解干预时所影响的群体。为此,我们将干预效应视为一项分类任务,并学习一个可解释的元分类器(meta-classifier),以识别结果发生改变的群体。我们考察了在模型生命周期各个阶段发挥作用的一系列偏差缓解策略。我们通过实验证明,我们的元分类器能够揭示受影响群体。此外,我们表明,所有被测试的缓解策略都会对相当比例的案例产生负面影响,即一部分人仅因缓解措施而获得了不利的结果,即便公平性指标有所改善亦如此。我们以这些结果为基础,主张对静态缓解干预进行更审慎的审计,审计范围应超越聚合指标。
引用
@article{arxiv.2312.00765,
title = {Explaining Knock-on Effects of Bias Mitigation},
author = {Svetoslav Nizhnichenkov and Rahul Nair and Elizabeth Daly and Brian Mac Namee},
journal= {arXiv preprint arXiv:2312.00765},
year = {2023}
}
备注
This paper was accepted at NeurIPS 2023 workshop