透过公平之镜：缓解图像数据集中的偏差
计算机视觉与模式识别
2022-09-20 v1 人工智能
摘要
随着近期计算机视觉应用的增长，它们是否公平无偏的问题尚待探究。大量证据表明，训练数据中存在的偏差会反映于模型中，甚至被放大。许多先前的图像数据集去偏方法，包括基于数据增强的模型，实现上计算昂贵。在本研究中，我们提出一种快速有效的模型，通过重建并最小化意图变量间的统计依赖性来为图像数据集去偏。我们的架构包含用于重建图像的 U-net，结合一个预训练分类器，该分类器惩罚目标属性与受保护属性间的统计依赖性。我们在 CelebA 数据集上评估所提模型，将结果与最先进去偏方法比较，并表明该模型取得了有前景的公平-准确权衡。
引用
@article{arxiv.2209.08648,
title = {Through a fair looking-glass: mitigating bias in image datasets},
author = {Amirarsalan Rajabi and Mehdi Yazdani-Jahromi and Ozlem Ozmen Garibay and Gita Sukthankar},
journal= {arXiv preprint arXiv:2209.08648},
year = {2022}
}