面向长尾分类的类实例平衡学习
计算机视觉与模式识别
2023-07-12 v1
摘要
长尾图像分类任务在深度神经网络的发展中仍然重要,因为它显式地处理训练数据类别频率上的巨大不平衡。尽管在人工构建的数据集中不常见,但这种不平衡在真实世界数据中几乎总是存在。先前的方法表明,结合交叉熵与对比学习可以提升长尾任务上的性能,但它们没有探究头部类与尾部类之间的权衡。我们提出了一种新颖的类实例平衡损失(CIBL),它根据训练批次中类实例的频率重新加权交叉熵损失与对比损失的相对贡献。这种平衡对更常见的类倾向于对比损失,从而得到在所有类频率上性能更平衡的学习分类器。此外,增加对比头上的相对权重会将性能从常见(头部)类转移到稀有(尾部)类,使用户若需要可将性能偏向这些类。我们还表明,将线性分类头替换为余弦分类头可得到一种网络,其能以显著更少的训练轮数训练至相似性能。我们在 CIFAR-100-LT 与 ImageNet-LT 上均取得了有竞争力的结果。
引用
@article{arxiv.2307.05322,
title = {Class Instance Balanced Learning for Long-Tailed Classification},
author = {Marc-Antoine Lavoie and Steven Waslander},
journal= {arXiv preprint arXiv:2307.05322},
year = {2023}
}
备注
8 pages, 2 figures, presented at the Conference on Robots and Vision 2023