用于优化ROC曲线部分面积的支撑向量算法
机器学习
2016-11-29 v1 机器学习
摘要
ROC曲线下面积（AUC）是机器学习中广泛使用的性能度量。然而，在从排序到生物特征识别筛查再到医学的若干应用中，性能度量日益不基于ROC曲线全面积，而是基于两个假正率之间的ROC曲线部分面积（部分AUC）。本文中，我们开发支撑向量算法以直接优化任意两个假正率之间的部分AUC。我们的方法基于最小化部分AUC误差的合适代理或替代目标。在全AUC情况下，可将性能度量表示为成对项之和，从而容易构造并优化凸替代函数。而部分AUC不具备如此简单的可分解结构，使得为该度量设计和优化（紧）凸替代函数更具挑战性。我们的方法构建于Joachims (2005)的结构化SVM框架上，为部分AUC设计凸替代函数，并使用割平面求解器求解所得优化问题。与全AUC不同，后者割平面求解器每次迭代所需组合优化可分解并高效求解，部分AUC的对应问题更难分解。我们的主要贡献之一是求解部分AUC相关组合优化问题的多项式时间算法。我们还利用凸差规划开发了优化基于更紧非凸铰链损失的部分AUC替代函数的方法。我们在多种真实世界与基准任务上的实验证实了所提方法的有效性。
引用
@article{arxiv.1605.04337,
title = {Support Vector Algorithms for Optimizing the Partial Area Under the ROC Curve},
author = {Harikrishna Narasimhan and Shivani Agarwal},
journal= {arXiv preprint arXiv:1605.04337},
year = {2016}
}