面向长尾识别的子类平衡对比学习
计算机视觉与模式识别
2023-09-12 v2
摘要
具有不平衡类别分布的长尾识别在实际机器学习应用中自然出现。现有方法如数据重加权、重采样和监督对比学习以引入头部类与尾部类实例间不平衡为代价来强制类别平衡，这可能忽略前者潜在的丰富语义子结构并夸大后者的偏差。我们通过一种新颖的“子类平衡对比学习（SBCL）”方法克服了这些缺陷，该方法将每个头部类聚类为与尾部类大小相似的多个子类，并强制表示捕获原始类与其子类之间的两层类层次结构。由于聚类在表示空间中进行并在训练过程中更新，子类标签保留了头部类的语义子结构。同时，它不过度强调尾部类样本，因此每个单独实例对表示学习的贡献均等。因此，我们的方法实现了实例与子类双重平衡，而原始类标签也通过来自不同类的子类间的对比学习得到学习。我们在一系列长尾基准数据集上评估SBCL，其取得了最先进的性能。此外，我们给出了对SBCL的广泛分析与消融研究以验证其优势。
引用
@article{arxiv.2306.15925,
title = {Subclass-balancing Contrastive Learning for Long-tailed Recognition},
author = {Chengkai Hou and Jieyu Zhang and Haonan Wang and Tianyi Zhou},
journal= {arXiv preprint arXiv:2306.15925},
year = {2023}
}