均衡数据集并不足够：深度图像表示中性别偏见的估计与缓解
计算机视觉与模式识别
2019-10-14 v4
摘要
在这项工作中，我们提出一个框架，用于度量并缓解视觉识别任务中相对于受保护变量（如性别）的内在偏见。我们表明，训练得到的模型显著放大了目标标签与性别的关联，超出人们从有偏数据集中所预期的程度。令人惊讶的是，我们表明即使数据集是均衡的——即每个标签与每种性别同等共现——学习到的模型仍会像数据未被均衡时一样多地放大标签与性别之间的关联！为缓解此问题，我们采用对抗方法从深度神经网络的中间表示中移除对应于受保护变量的不必要特征，并详细分析其有效性。在 COCO 数据集（物体）与 imSitu 数据集（动作）上的实验表明，在保持原模型大部分精度的同时，性别偏见放大得到了降低。
引用
@article{arxiv.1811.08489,
title = {Balanced Datasets Are Not Enough: Estimating and Mitigating Gender Bias in Deep Image Representations},
author = {Tianlu Wang and Jieyu Zhao and Mark Yatskar and Kai-Wei Chang and Vicente Ordonez},
journal= {arXiv preprint arXiv:1811.08489},
year = {2019}
}
备注
10 pages, 7 figures, ICCV 2019