中文

具有可证明收敛性的精确率-召回率曲线下面积随机优化

机器学习 2023-04-14 v5 人工智能 计算机视觉与模式识别 最优化与控制

摘要

ROC 曲线下面积(AUROC)和精确率-召回率曲线下面积(AUPRC)是评估不平衡问题分类性能的常用指标。与 AUROC 相比,AUPRC 更适合高度不平衡的数据集。虽然 AUROC 的随机优化已被广泛研究,但 AUPRC 的原则性随机优化很少被探索。本工作中,我们提出一种用于深度学习优化 AUPRC 的原则性技术方法。我们的方法基于最大化平均精度(AP),它是 AUPRC 的无偏点估计。我们将目标转化为一组依赖组合函数之和,其中内层函数依赖于外层级的随机变量。我们利用随机组合优化的最新进展,提出名为 SOAP 的高效自适应与非自适应随机算法,在温和条件下具有可证明收敛保证。在图像与图数据集上的大量实验结果表明,所提方法在不平衡问题的 AUPRC 上优于先前方法。据我们所知,我们的工作代表了首个以可证明收敛优化 AUPRC 的尝试。SOAP 已在 libAUC 库中实现:\url{https://libauc.org/}。

关键词

引用

@article{arxiv.2104.08736,
  title  = {Stochastic Optimization of Areas Under Precision-Recall Curves with Provable Convergence},
  author = {Qi Qi and Youzhi Luo and Zhao Xu and Shuiwang Ji and Tianbao Yang},
  journal= {arXiv preprint arXiv:2104.08736},
  year   = {2023}
}

备注

Published on NeurIPS 2021, 24 pages, 10 figures