CAMRI 损失:在不牺牲准确率的前提下提升特定类别的召回率
机器学习
2024-06-03 v1
摘要
在多类分类模型的实际应用中,重要类别(例如停车标志)中的误分类可能比其他类别(例如限速标志)中的误分类危害显著更大。在本文中,我们提出一种损失函数,能够在保持与使用交叉熵损失时相同准确率水平的同时,提升重要类别的召回率。为此,我们需要使重要类别的分离性优于其他类别。然而,现有对交叉熵损失施加类别敏感惩罚的方法并不能改善分离性。另一方面,对对应于各特征的最后全连接层的特征向量与权重向量之间的角度施加间隔的方法可以改善分离性。因此,我们提出一种损失函数,通过仅为重要类别设置间隔来改善其分离性,称为类别敏感加性角间隔损失(Class-sensitive Additive Angular Margin Loss,CAMRI Loss)。CAMRI 损失通过在特征空间中重要类别周围添加角度惩罚,有望降低重要类别特征与权重之间相对于其他类别的角度方差。此外,将惩罚仅集中于重要类别几乎不会牺牲其他类别的分离性。在 CIFAR-10、GTSRB 和 AwA2 上的实验表明,所提方法在不牺牲准确率的情况下,相较交叉熵损失可将召回率提升多达 9%。
引用
@article{arxiv.2209.10920,
title = {CAMRI Loss: Improving Recall of a Specific Class without Sacrificing Accuracy},
author = {Daiki Nishiyama and Kazuto Fukuchi and Youhei Akimoto and Jun Sakuma},
journal= {arXiv preprint arXiv:2209.10920},
year = {2024}
}
备注
2022 International Joint Conference on Neural Networks (IJCNN 2022)