弹性表示：用于群体鲁棒性的虚假关联消除

深度学习模型在依赖输入特征与标签之间的虚假关联时，可能出现严重的性能下降，这些模型在训练数据上表现良好，但对少数群体的预测准确率较差。这种问题在训练数据有限或不平衡时尤为突出。虽然大多数前期工作聚焦于学习与标签关联性恒定的不变特征，但忽视了特征之间虚假关联潜在的危害。我们提出弹性表示 (ElRep)，通过对神经网络最后一层的表示施加核范数与弗罗伦蒂尼范数惩罚来学习特征。类似于弹性网路 (elastic net)，ElRep 具备在不损失特征多样性的前提下学习重要特征的优势。该方法简洁而有效，可整合到各种深度学习方法中，以消除虚假关联并提高群体鲁棒性。此外，我们理论上证明 ElRep 对分布内预测几乎没有负面影响。这在强调在整体性能方面牺牲少数群体的做法中具有显著优势。