中文

基于少数类增量校正的类别不平衡深度学习

计算机视觉与模式识别 2018-05-01 v1

摘要

从类别不平衡训练数据中学习模型是机器学习领域一项长期且重大的挑战。特别是,现有的深度学习方法在模型训练时大多考虑类别平衡数据或适度不平衡数据,而忽略了从极度不平衡训练数据中学习的挑战。为解决这一问题,我们提出了一种基于逐批次增量少数类(稀疏采样)校正的类别不平衡深度学习模型,该模型在模型训练期间通过在多数类(频繁采样)中进行难样本挖掘来实现。该模型旨在通过在迭代的逐批次学习过程中发现少数类的稀疏采样边界,以最小化多数类的主导效应。为此,我们引入了类别校正损失(Class Rectification Loss, CRL)函数,该函数可直接部署于深度网络架构中。我们在三个不平衡的人体属性基准数据集(CelebA、X-Domain、DeepFashion)和一个平衡的物体类别基准数据集(CIFAR-100)上进行了广泛的实验评估。这些实验结果证明了所提出的逐批次增量少数类校正模型在解决不平衡数据学习问题方面,相较于现有最先进模型具有性能优势和模型可扩展性。

关键词

引用

@article{arxiv.1804.10851,
  title  = {Imbalanced Deep Learning by Minority Class Incremental Rectification},
  author = {Qi Dong and Shaogang Gong and Xiatian Zhu},
  journal= {arXiv preprint arXiv:1804.10851},
  year   = {2018}
}

备注

Accepted for IEEE Trans. Pattern Analysis and Machine Intelligence