理解图像识别模型中的性别与种族差异
计算机视觉与模式识别
2021-07-21 v1
摘要
在 ImageNet 等流行数据集上训练的大规模图像分类模型已被证明存在分布偏斜，导致不同人口统计子群体间预测精度的差异。已有许多方法通过在训练前、训练中和训练后改变模型来解决此分布偏斜。我们研究其中一种方法——在 Inclusive Images 数据集（OpenImages V6 数据集的子集）的多标签分类问题上，使用带交叉熵的多标签 softmax 损失，而非二值交叉熵。我们使用 MR2 数据集（包含具有自我标识性别和种族属性的人物图像）来评估模型结果中的公平性，并尝试通过考察模型激活来解释错误，并提出可能的修正方案。
引用
@article{arxiv.2107.09211,
title = {Understanding Gender and Racial Disparities in Image Recognition Models},
author = {Rohan Mahadev and Anindya Chakravarti},
journal= {arXiv preprint arXiv:2107.09211},
year = {2021}
}