公平表示的不可行性结果

随着对机器学习中公平性的日益关注，以及认识到数据表示在数据处理任务中的核心作用，人们对公平数据表示的概念产生了明显兴趣。此类表示的目标是：在表示下训练数据的模型（例如分类器）将被保证遵守某些公平性约束。当此类表示可固定用于训练各种不同任务的模型，以及当它们作为原始数据（为表示设计者所知）与潜在恶意代理之间的数据过滤器（该代理使用表示下的数据来学习预测模型并做出决策）时，这些表示是有用的。近期大量研究论文力求提供实现这些目标的工具。然而，我们证明这基本上是一种徒劳的努力。粗略地说，我们证明没有任何表示能够保证使用它训练的不同任务的分类器的公平性；即使实现与标签无关的群体均等（Demographic Parity）公平性的基本目标，一旦边际数据分布发生偏移也会失败。更精细的公平性概念，如机会均等（Odds Equality），无法由未考虑将据此评估此类公平性的特定任务标注规则的表示来保证（即使边际数据分布事先已知）。此外，除平凡情况外，没有任何表示能够保证任意两个不同任务的机会均等公平性，同时允许对两者进行准确的标签预测。尽管我们的一些结论是直观的，但我们表述（并证明）了此类不可行性的明确陈述，常常与许多近期关于公平表示的研究所传达的印象形成对比。