公平性仅在于度量深度吗？深度度量学习中子群差距的评估与缓解
机器学习
2022-03-25 v1 人工智能
计算机与社会
机器学习
摘要
深度度量学习（DML）通过强调表示的相似结构，能够以更少监督进行学习。已有大量工作致力于提升 DML 在零样本检索等场景中的泛化能力，但其对公平性的影响却鲜有认知。本文首次评估在失衡数据上训练的最先进 DML 方法，并展示当这些表示用于下游任务时对少数子群性能的负面影响。本工作中，我们首先通过对表示空间的三个性质——类间对齐、类内对齐与均匀性——的分析来定义 DML 中的公平性，并提出 finDML（非平衡 DML 中的公平性基准）以刻画表示公平性。利用 finDML，我们发现 DML 表示中的偏差会传播至常见下游分类任务。令人惊讶的是，即便下游任务训练数据被重新平衡，该偏差仍会传播。为解决此问题，我们提出部分属性去相关（PARADE）方法，将特征表示与敏感属性去相关，缩小嵌入空间与下游指标中子群间的性能差距。
引用
@article{arxiv.2203.12748,
title = {Is Fairness Only Metric Deep? Evaluating and Addressing Subgroup Gaps in Deep Metric Learning},
author = {Natalie Dullerud and Karsten Roth and Kimia Hamidieh and Nicolas Papernot and Marzyeh Ghassemi},
journal= {arXiv preprint arXiv:2203.12748},
year = {2022}
}
备注
Published as a conference paper at ICLR 2022