用于不平衡分类的扩大大间隔损失
计算机视觉与模式识别
2023-06-16 v1
摘要
我们提出一种用于不平衡分类的新损失函数。LDAM 损失通过最小化基于间隔的泛化界,被广泛用于类不平衡图像分类。尽管使用 LDAM 损失可为少数类获得大间隔、为多数类获得小间隔,但其与原始 softmax 交叉熵损失中所包含的大间隔的关联尚不明晰。本研究中,我们基于 softplus 函数的大间隔 softmax 交叉熵损失概念重构 LDAM 损失的公式,并确认 LDAM 损失包含比 softmax 交叉熵损失更宽的大间隔。此外,我们提出一种新颖的扩大大间隔(ELM)损失,其可进一步拓宽 LDAM 损失的大间隔。ELM 损失除利用 LDAM 损失所使用的基本间隔外,还利用不正确类中最大 logit 的大间隔。通过在不平衡 CIFAR 数据集与具有长尾分布的大规模数据集上进行的实验,我们确认分类精度相较 LDAM 损失及传统不平衡分类损失有大幅提升。
引用
@article{arxiv.2306.09132,
title = {Enlarged Large Margin Loss for Imbalanced Classification},
author = {Sota Kato and Kazuhiro Hotta},
journal= {arXiv preprint arXiv:2306.09132},
year = {2023}
}
备注
Accepted at SMC2023