RAGUEL：面向补救感知的群体不公平消除

尽管机器学习和基于排序的系统已广泛用于敏感决策过程（例如确定求职者、分配信用评分），但其结果中普遍存在关于无意偏见的担忧，这使得算法公平（例如人口均等、机会均等）成为一个受关注的目标。“算法补救”通过修改属性提供可行的恢复操作以改变不期望的结果。我们引入了排序群体级补救公平的概念，并开发了一种“补救感知排序”方案，该方案在满足排序补救公平约束的同时最小化所建议修改的成本。我们的方案建议通过干预重新排序数据库记录的排序列表并缓解群体级不公平；具体而言，即子群体的代表性失衡与补救成本失衡。该重排序确定了数据点的最小修改，这些属性修改根据其补救难易程度进行加权。随后我们提出了一种高效的基于块的扩展，可在任意粒度上实现重排序（例如银行贷款利率的多个区间、搜索引擎结果的多个页面）。在真实数据集上的评估表明，尽管现有方法甚至可能加剧补救不公平，我们的方案——RAGUEL——显著改善了补救感知公平性。RAGUEL通过反事实生成与重排序的结合过程，在改善补救公平性方面优于替代方案，同时对大规模数据集保持高效。