多类公平性的黑盒后处理
机器学习
2022-01-13 v1 人工智能
计算机与社会
摘要
将标准机器学习方法用于分类可能在不同的 demographic 群体间产生不平等结果。当应用于真实场景时，这些不平等会产生负面的社会影响。这促使近年来各种公平分类机器学习方法的发展。本文中，我们考虑修改黑盒机器学习分类器预测以实现多类设定下公平性的问题。为此，我们将 Hardt 等人 2016 年提出的聚焦于二分类公平性的“后处理”方法推广至公平多类分类设定。我们通过系统的合成实验探究了该方法何时能给出公平且准确的预测，并在多个公开可用真实应用数据集上评估了歧视-公平性权衡。我们发现总体而言，当数据集中个体数量相对于类别数与受保护组数较高时，我们的方法在准确性上仅有微小下降并实现了公平性。
引用
@article{arxiv.2201.04461,
title = {Blackbox Post-Processing for Multiclass Fairness},
author = {Preston Putzel and Scott Lee},
journal= {arXiv preprint arXiv:2201.04461},
year = {2022}
}