通过训练一族损失函数优化类别不平衡数据上的 ROC 曲线
机器学习
2024-06-06 v2 计算机视觉与模式识别
摘要
尽管二分类是计算机视觉中一个研究充分的问题，但在严重类别不平衡下训练可靠的分类器仍然是一个具有挑战性的问题。最近的工作提出了通过修改损失函数或优化方法来减轻不平衡下训练影响的技术。虽然这项工作在多类情况下带来了整体准确率的显著提升，但我们观察到，这些方法的超参数值的微小变化可能导致在严重不平衡的二分类问题上，以受试者工作特征曲线衡量的性能高度可变。为了减少对超参数选择的敏感性并训练更通用的模型，我们提出训练一族损失函数，而不是单个损失函数。我们开发了一种将损失条件训练应用于不平衡分类问题的方法。在 CIFAR 和 Kaggle 竞赛数据集上的大量实验结果表明，我们的方法提高了模型性能，并且对超参数选择更加鲁棒。代码可在 https://github.com/klieberman/roc_lct 获取。
引用
@article{arxiv.2402.05400,
title = {Optimizing for ROC Curves on Class-Imbalanced Data by Training over a Family of Loss Functions},
author = {Kelsey Lieberman and Shuai Yuan and Swarna Kamlam Ravindran and Carlo Tomasi},
journal= {arXiv preprint arXiv:2402.05400},
year = {2024}
}