一个标签，十亿张面孔：计算机视觉中种族类别的使用与一致性

计算机视觉被广泛部署，具有高度可见且改变社会中的应用，并存在已记录的偏见与代表性问题。数据集对于公平计算机视觉进展的基准测试至关重要，常采用宽泛的种族类别作为人群组以衡量群体公平。类似地，计算机视觉数据集中的多样性常通过归属并计数分类种族标签来衡量。然而，种族类别定义不清、在时间地理上不稳定，且有问题的科学使用历史。尽管各数据集所用种族类别表面相似，人类种族感知的复杂性表明一个数据集所编码的种族体系可能与另一数据集显著不一致。利用分类器可学习数据集所编码种族体系的洞见，我们对提供人脸图像分类种族标签的计算机视觉数据集开展实证研究，以确定种族类别的跨数据集一致性与泛化性。我们发现每个数据集编码了显著独特的种族体系，尽管名义上类别等价，且某些种族类别跨数据集系统性更不一致。我们发现证据表明种族类别编码了刻板印象，并基于不符合刻板印象而将族群排除于类别之外。以单一种族类别代表十亿人类可能掩盖差异并通过编码种族体系刻板印象制造新差异。将抽象的种族概念充分转化为公平度量工具的困难，凸显了需要比种族类别更灵活且具文化意识的方法。