中文

无人掉队:长尾学习中改善最差类别

计算机视觉与模式识别 2023-03-20 v2

摘要

与使用平衡训练数据集的情况不同,已知用不平衡数据集训练的神经网络,其各类别的召回率(即准确率)在不同类别间差异很大。长尾识别中的惯例是手动将所有类别划分为三个子集,并报告各子集内的平均准确率。我们认为在这种评估设定下,某些类别不可避免地会被牺牲。一方面,即便一些表现最差的类别准确率为零,关注平衡测试集上的平均准确率也几乎不会带来惩罚。另一方面,“Few”子集中的类未必比“Many”或“Medium”子集中的类表现更差。因此我们主张更多地关注提升所有类别中的最低召回率以及所有召回率的调和均值。具体而言,我们提出了一种适用于广泛方法的简单插件式方法。通过用我们提出的损失函数简单地重新训练已有预训练模型的分类器,并使用一种可选的集成技巧来结合两个分类器的预测,我们实现了跨类别更均匀的召回率分布,从而在(算术)平均准确率仍然很高的同时获得了更高的调和均值准确率。我们方法的有效性在广泛使用的基准数据集上得到了验证。

关键词

引用

@article{arxiv.2303.03630,
  title  = {No One Left Behind: Improving the Worst Categories in Long-Tailed Learning},
  author = {Yingxiao Du and Jianxin Wu},
  journal= {arXiv preprint arXiv:2303.03630},
  year   = {2023}
}