协方差校正白化缓解不平衡分类中的网络退化
计算机视觉与模式识别
2024-09-02 v1
摘要
类别不平衡是图像分类中的一个关键问题，显著影响深度识别模型的性能。在本工作中，我们首先识别出一个网络退化困境，该困境通过在输入分类器的特征中引入高线性相关性来阻碍模型学习。为克服这一挑战，我们提出了一个名为 Whitening-Net 的新框架以缓解退化解，其中在分类器之前集成了 ZCA 白化以对批次样本进行归一化和去相关。然而，在类别极端不平衡的场景下，批次协方差统计量表现出显著波动，阻碍了白化操作的收敛。因此，我们提出了两个协方差校正模块，即基于组的相对平衡批次采样器和批次嵌入训练，以获得更准确且稳定的批次协方差，从而增强白化的能力。我们的模块可端到端训练，且不会产生大量计算开销。在基准数据集上进行的全面实证评估，包括 CIFAR-LT-10/100、ImageNet-LT 和 iNaturalist-LT，验证了我们提出方法的有效性。
引用
@article{arxiv.2408.17197,
title = {Covariance-corrected Whitening Alleviates Network Degeneration on Imbalanced Classification},
author = {Zhiwei Zhang},
journal= {arXiv preprint arXiv:2408.17197},
year = {2024}
}
备注
20 pages, 10 figures, 10 tables. arXiv admin note: text overlap with arXiv:2112.05958