面向多标签学习中Macro-AUC泛化性质的理解
机器学习
2023-06-05 v2 机器学习
摘要
Macro-AUC是多标签学习中各类别AUC的算术平均，在实践中被广泛使用。然而其理论理解远远不足。为解决这个问题，我们基于对应于Macro-AUC的替代损失，刻画了各类学习算法的泛化性质。我们从理论上辨识出影响泛化界的数据集关键因素：标签-wise类别不平衡。我们关于不平衡感知误差界的结果表明，广泛使用的基于单变量损失的算法比所提出的基于成对损失和重加权损失的算法对标签-wise类别不平衡更敏感，这或许意味着其更差的性能。此外，在各数据集上的实证结果佐证了我们的理论发现。在技术上，我们提出了一种新的（且更一般的）McDiarmid型集中不等式以建立该理论，其本身可能具有独立意义。
引用
@article{arxiv.2305.05248,
title = {Towards Understanding Generalization of Macro-AUC in Multi-label Learning},
author = {Guoqiang Wu and Chongxuan Li and Yilong Yin},
journal= {arXiv preprint arXiv:2305.05248},
year = {2023}
}
备注
ICML 2023