大规模鲁棒深度AUC最大化：一种新的替代损失及在医学图像分类上的实证研究
机器学习
2021-09-09 v2 计算机视觉与模式识别
最优化与控制
机器学习
摘要
深度AUC最大化(DAM)是一种通过最大化模型在数据集上的AUC分数来学习深度神经网络的新范式。以往大多数AUC最大化的工作从优化角度设计高效随机算法，而关于大规模DAM在困难任务上泛化性能的研究尚缺。本文旨在使DAM对有趣的现实应用（如医学图像分类）更实用。首先，我们提出一种新的基于间隔的AUC分数极小极大替代损失函数（命名为AUC极小极大间隔损失，简称AUC间隔损失）。它比常用的AUC平方损失更鲁棒，同时在大规模随机优化方面具有同等优势。其次，我们在四个困难的医学图像分类任务上对我们的DAM方法进行了广泛的实证研究，即(i)用于识别多种威胁性疾病的胸部X光图像分类，(ii)用于识别黑色素瘤的皮肤病变图像分类，(iii)用于乳腺癌筛查的乳腺X线摄影分类，以及(iv)用于识别肿瘤组织的显微图像分类。我们的研究表明，所提出的DAM方法比优化交叉熵损失大幅提升了性能，并且在这些医学图像分类任务上也优于优化现有的AUC平方损失。具体而言，我们的DAM方法在2020年8月31日的Stanford CheXpert竞赛中获得第一名。据我们所知，这是首个使DAM在大规模医学图像数据集上取得成功的工作。我们还进行了大量消融实验，以证明新的AUC间隔损失在基准数据集上优于AUC平方损失。所提方法已在我们的开源库LibAUC(www.libauc.org)中实现。
引用
@article{arxiv.2012.03173,
title = {Large-scale Robust Deep AUC Maximization: A New Surrogate Loss and Empirical Studies on Medical Image Classification},
author = {Zhuoning Yuan and Yan Yan and Milan Sonka and Tianbao Yang},
journal= {arXiv preprint arXiv:2012.03173},
year = {2021}
}
备注
Accepted by ICCV2021