关于群体公平排序中的欠排名问题

搜索与推荐系统，如搜索引擎、招聘工具、在线市场、新闻和社交媒体，会输出内容、产品以及有时是人的排序列表。信用评级、标准化测试、风险评估仅输出分数，但也隐式地用于排序。此类排序系统中的偏差，尤其是排名靠前的偏差，会加剧社会和经济不平等、极化观点并强化刻板印象。另一方面，如果被视为偏袒群体公平结果而非任人唯贤，对少数群体的偏差校正可能会造成更大危害。在本文中，我们形式化了群体公平排序中的欠排名（underranking）问题，这是以往工作未涉及的。大多数群体公平排序算法对给定排序进行后处理并输出群体公平排序。我们基于每个项目的群体公平排名与其原始排名的接近程度来定义欠排名，并证明了在排序中同时实现欠排名与群体公平的可达权衡的下界。我们给出了一种公平排序算法，该算法接受任意给定排序并输出另一种排序，其同时提供的欠排名与群体公平保证可媲美我们所证明的下界。我们的算法适用于任意数量群体的群体公平约束。我们的实验结果证实了欠排名与群体公平之间的理论权衡，并且表明与最先进的基线相比，我们的算法在两者间取得了最佳平衡。