以端到端框架优化双向部分 AUC
机器学习
2022-06-24 v1 统计方法学
摘要
ROC 曲线下面积(Area Under the ROC Curve, AUC)是机器学习的关键指标,它评估所有可行真阳性率(True Positive Rates, TPRs)与假阳性率(False Positive Rates, FPRs)上的平均性能。基于一个熟练分类器应同时具有高 TPR 和低 FPR 的认识,我们转而研究一种更通用的变体,称为双向部分 AUC(Two-way Partial AUC, TPAUC),其中仅包含 的区域。此外,近期工作表明 TPAUC 与现有仅限制 FPR 范围的 Partial AUC 指标本质上不一致,开启了寻求提升 TPAUC 解决方案的新问题。受此启发,本文给出优化这一新指标的首次尝试。此过程中的关键挑战在于即便恰当选择替代损失,也难以进行基于梯度的端到端随机训练优化。为解决该问题,我们提出一个通用框架来构造替代优化问题,支持基于深度学习的高效端到端训练。而且,我们的理论分析表明:1)在温和条件下,替代问题的目标函数将达到原问题的一个上界;2)优化替代问题能以高概率带来 TPAUC 上良好的泛化性能。最后,在若干基准数据集上的实证研证实了框架的有效性。
引用
@article{arxiv.2206.11655,
title = {Optimizing Two-way Partial AUC with an End-to-end Framework},
author = {Zhiyong Yang and Qianqian Xu and Shilong Bao and Yuan He and Xiaochun Cao and Qingming Huang},
journal= {arXiv preprint arXiv:2206.11655},
year = {2022}
}