ImbSAM：类别不平衡识别中锐度感知最小化的深入考察
计算机视觉与模式识别
2023-08-16 v1
摘要
类别不平衡是现实世界识别任务中的常见挑战，其中大多数类别样本很少，即所谓的尾部类。我们从泛化的角度应对这一挑战，并经验性地发现，前景广阔的锐度感知最小化（Sharpness-Aware Minimization, SAM）未能解决类别不平衡设定下的泛化问题。通过研究这一特定类型的任务，我们确认其泛化瓶颈主要在于对训练数据有限的尾部类的严重过拟合。为克服该瓶颈，我们利用类别先验来限制类别无关的 SAM 的泛化范围，并提出一种称为不平衡 SAM（Imbalanced-SAM, ImbSAM）的类别感知平滑优化算法。在类别先验的指导下，我们的 ImbSAM 专门针对尾部类改善泛化。我们还在两类典型的类别不平衡识别应用上验证了 ImbSAM 的有效性：长尾分类与半监督异常检测，其中我们的 ImbSAM 对尾部类和异常展现出显著的性能提升。我们的代码实现见 https://github.com/cool-xuan/Imbalanced_SAM。
引用
@article{arxiv.2308.07815,
title = {ImbSAM: A Closer Look at Sharpness-Aware Minimization in Class-Imbalanced Recognition},
author = {Yixuan Zhou and Yi Qu and Xing Xu and Hengtao Shen},
journal= {arXiv preprint arXiv:2308.07815},
year = {2023}
}
备注
Accepted by International Conference on Computer Vision (ICCV) 2023