视觉问答数据集中的性别与种族偏见
计算机视觉与模式识别
2022-06-06 v3 计算机与社会
摘要
视觉与语言任务作为评估机器学习模型中类人推理能力的一种手段，越来越受到关注。该领域一个流行的任务是视觉问答（VQA），其旨在回答关于图像的问题。然而，VQA模型已被证明会利用语言偏见，通过学习问题与答案之间的统计相关性，而不关注图像内容：例如，关于香蕉颜色的问题会被回答为黄色，即使图像中的香蕉是绿色的。如果训练数据中存在社会偏见（例如，性别歧视、种族主义、能力歧视等），这个问题可能会导致VQA模型学习到有害的刻板印象。为此，我们研究了五个VQA数据集中的性别和种族偏见。在我们的分析中，我们发现关于女性和男性的问题，其答案分布存在显著差异，并且存在有害的性别刻板印象样本。同样，我们发现特定的种族相关属性代表性不足，而在分析的数据集中出现了潜在的歧视性样本。我们的研究结果表明，在不考虑和处理潜在有害刻板印象的情况下使用VQA数据集存在危险。我们在论文最后提出了在数据集收集过程之前、之中和之后缓解该问题的解决方案。
引用
@article{arxiv.2205.08148,
title = {Gender and Racial Bias in Visual Question Answering Datasets},
author = {Yusuke Hirota and Yuta Nakashima and Noa Garcia},
journal= {arXiv preprint arXiv:2205.08148},
year = {2022}
}
备注
ACM Conference on Fairness, Accountability, and Transparency (FAccT 2022)