单次遍历 AUC 优化
机器学习
2020-07-07 v2
摘要
AUC 是一项重要的性能指标，许多算法致力于 AUC 优化，主要通过最小化训练数据集上的代理凸损失来实现。本文聚焦于单次遍历 AUC 优化，该方法只需遍历一次训练数据而无需存储整个训练数据集；由于 AUC 是通过对不同类别实例对定义的损失之和来衡量的，传统的在线学习算法无法直接应用。我们开发了一种基于回归的算法，仅需在内存中维护训练数据的一阶和二阶统计量，从而使存储需求与训练数据规模无关。为了高效处理高维数据，我们开发了一种随机算法，通过低秩矩阵近似协方差矩阵。我们从理论和实证两方面验证了所提算法的有效性。
引用
@article{arxiv.1305.1363,
title = {One-Pass AUC Optimization},
author = {Wei Gao and Rong Jin and Shenghuo Zhu and Zhi-Hua Zhou},
journal= {arXiv preprint arXiv:1305.1363},
year = {2020}
}
备注
Proceeding of 30th International Conference on Machine Learning