更少却更好：面部表情识别中的表征性偏见与刻板印象偏见

机器学习模型会继承其训练数据的偏见，导致产生歧视性或不准确的预测。这在日益广泛使用大规模无监督数据集训练基础模型方面尤其值得关注。传统上，人们对这些数据集中的人口统计偏见缺乏深入了解，限制了我们理解其如何传递到模型本身的能力。为此，本文探讨了人口统计偏见从数据集向机器学习模型的传播。我们聚焦于性别人口统计成分，分析两种偏见类型：表征性偏见和刻板印象偏见。针对此，我们考虑面部表情识别(FER)领域，该领域在大多数流行数据集中均显示出偏见。我们以 AffectNet(一个最大的FER数据集)为基准，仔细设计并生成包含不同强度的表征性和刻板印象偏见子集。随后，我们在这些偏见子集上训练多个模型，对在通用测试集上的性能进行评估，以评估偏见如何传递到模型预测中。我们的结果表明，表征性偏见的影响小于预期。即使在训练数据集中缺失一种性别，模型也表现出良好的泛化能力。相反，刻板印象偏见具有显著更大的影响，主要集中在受偏见影响的类别上，尽管也可能影响无偏见类别的预测。这些结果凸显了区分偏见类型的偏见分析的重要性，这对于开发有效的偏见缓解策略至关重要。