BLIND：无需人口统计信息的偏差消除

在真实世界数据上训练的模型往往会模仿并放大社会偏差。缓解偏差的常用方法需要有关应缓解的偏差类型（例如性别或种族偏差）以及与每个数据样本相关的社会群体的先验信息。在这项工作中，我们引入了 BLIND，这是一种在不知道数据集中人口统计信息的情况下消除偏差的方法。在针对下游任务训练模型时，BLIND 使用一个预测主模型成功与否的辅助模型来检测有偏差的样本，并在训练过程中降低这些样本的权重。在情感分类和职业分类任务中针对种族和性别偏差的实验表明，BLIND 在不依赖昂贵的人口统计标注过程的情况下缓解了社会偏差。我们的方法与其他需要人口统计信息的方法具有竞争力，有时甚至超越了它们。