足够公平：寻找充分的公平性度量
机器学习
2022-03-22 v2 计算机与社会
软件工程
摘要
对机器学习软件进行伦理偏见的测试已成为当前紧迫的关注点。作为回应，近期研究提出了大量新的公平性度量，例如 IBM AIF360 工具包中的数十种公平性度量。这引发了一个问题：任何公平性工具如何能满足如此多样的目标？虽然我们无法完全简化公平性测试的任务，但肯定可以减少该问题。本文表明，许多此类公平性度量实际上衡量的是同一事物。基于使用七个真实世界数据集的实验，我们发现 (a) 26 个分类度量可聚为七组，且 (b) 四个数据集度量可聚为三组。此外，每个约简后的集合实际上可能预测不同的事物。因此，不再有必要（甚至不可能）满足所有公平性度量。总之，为简化公平性测试问题，我们推荐以下步骤：(1) 确定何种类型的公平性是可取的（我们提供了若干此类类型）；然后 (2) 在我们的聚类中查找这些类型；然后 (3) 仅对每个聚类测试一项。
引用
@article{arxiv.2110.13029,
title = {Fair Enough: Searching for Sufficient Measures of Fairness},
author = {Suvodeep Majumder and Joymallya Chakraborty and Gina R. Bai and Kathryn T. Stolee and Tim Menzies},
journal= {arXiv preprint arXiv:2110.13029},
year = {2022}
}
备注
8 tables and 1 figure