重新审视放大偏差对于去偏置的重要性

在图像分类中，“去偏置”旨在训练一个对数据集偏差（数据样本的外围属性与目标类别之间的强相关性）较不敏感的分类器。例如，即使数据集中青蛙类主要由带有沼泽背景的青蛙图像组成（即偏差对齐样本），一个去偏置的分类器应能够正确分类海滩上的青蛙（即偏差冲突样本）。近期的去偏置方法通常使用两个组件进行去偏置，一个偏差模型 $f_B$ 和一个去偏置模型 $f_D$。$f_B$ 被训练为聚焦于偏差对齐样本（即对偏差过拟合），而 $f_D$ 主要通过集中于 $f_B$ 未能学习的样本来以偏差冲突样本为主进行训练，使得 $f_D$ 较不易受数据集偏差影响。虽然最先进的去偏置技术致力于更好地训练 $f_D$，我们聚焦于训练 $f_B$——一个迄今为止被忽视的组件。我们的实证分析揭示，从 $f_B$ 的训练集中移除偏差冲突样本对于提升 $f_D$ 的去偏置性能十分重要。这是因为偏差冲突样本对于放大 $f_B$ 的偏差而言充当了噪声样本，因为这些样本不包含偏差属性。为此，我们提出了一种简单而有效的数据样本选择方法，其移除偏差冲突样本以构建用于训练 $f_B$ 的偏差放大数据集。我们的数据样本选择方法可直接应用于现有的基于重加权的去偏置方法，获得一致的性能提升，并在合成与真实世界数据集上达到最先进性能。