偏置放大提升少数群体性能

标准训练得到的神经网络已知在罕见子组上准确率较差，尽管平均准确率较高，这是由于某些伪特征与标签之间的相关性所致。先前基于最差组损失最小化（如 Group-DRO）的方法能有效提升最差组准确率，但需要对所有训练样本进行昂贵的组标注。本文关注更具挑战性且更现实的设定：组标注仅在小验证集上可用或完全不可用。我们提出 BAM，一种新颖的两阶段训练算法：第一阶段，通过为每个训练样本引入可学习的辅助变量，使用偏置放大方案训练模型；第二阶段，我们对偏置放大模型误分类的样本进行加权，然后在重加权数据集上继续训练同一模型。实证上，BAM 在与计算机视觉和自然语言处理中伪相关基准上评估的现有方法相比具有竞争力。此外，我们发现一种基于最小类准确率差的简单停止准则，可消除对组标注的需求，且最差组准确率几乎无损失或完全无损失。我们进行了大量分析与消融实验，以验证我们的算法在不同类别与组不平衡比例下的有效性与鲁棒性。