虽有公平意识仍不公：战略智能体下的群体公平分类

在影响人们经济、社会与政治福祉的领域中使用算法决策系统，已产生对这些决策系统在某种公认公平概念下保持“公平”的需求。该需求进而激发了大量聚焦于开发公平学习算法的工作，这些算法随后被用于替代其传统对应算法。此类公平算法的大多数分析基于如下假设：受算法决策影响的人被表示为不可变的特征向量。然而，战略智能体可能既有能力也有动机操纵此被观测特征向量，以谋取更有利的结果。我们探究战略智能体行为对公平分类器的影响，并推导出在此行为导致公平分类器在其所考量的同一公平度量下变得比传统对应算法更不公正的条件。这些条件与公平分类器在原始未操纵数据上纠正不公的方式有关：那些通过变得比传统对应算法更具选择性来纠正不公的公平分类器，在智能体具战略性时正是变得比对应算法更不公正的那些。我们进一步证明，公平分类器选择性的增强以及随之而来的公平性损失，出现在对传统分类器决策边界附近（及有益一侧）优势群体过度表示的领域上执行公平学习时。最后，我们通过多个数据集与学习方法实验观察到，这种公平性反转是普遍的，且我们对公平性反转条件的理论刻画在多数此类情形中确实成立。