论随机化在公平分类与表示学习中的力量

公平分类和公平表示学习是监督和无监督公平机器学习中两个重要问题。公平分类要求分类器在给定数据分布上最大化准确率，同时满足公平性约束。公平表示将给定数据分布从原始特征空间映射到新的表示空间，使得该表示空间上的所有分类器都满足公平性。在本文中，我们检查了在这两个问题中引入随机化的力量，以最小化施加公平性约束后导致的准确率损失。先前关于公平分类的工作对在给定数据分布上最大化准确率且满足公平性约束（例如人口统计公平性（DP）、平等机会（EO）和预测公平性（PE））的最优公平分类器进行了表征。我们对这些表征进行了细化，展示了在何种情况下最优随机化公平分类器可以超越其确定性对手。在我们表征的最优随机化公平分类器的基础上，我们还显示了该分类器可作为凸优化问题的解来获得。最近的工作提供了构建公平表示的技术，使得该表示上的任何分类器都满足DP。然而，这些公平表示上的分类器要么没有准确性保证，要么相对于原始数据分布上最优公平分类器的准确性保证很弱。在随机化公平分类的基础上，我们改进了这些工作，构建了满足DP、EO和PE的公平表示，这些表示在准确性上具有最优性，且相对于原始数据分布上最优DP、EO和PE分类器没有准确性损失。