多标签学习中广义指标优化的原则算法
机器学习
2026-05-28 v1 机器学习
摘要
许多现实世界的分类任务需要预测每个实例的多个标签, necessitating 优化复杂评估指标如 指数和 Jaccard 索引。虽然经验效用最大化(EUM)框架对这些 population 水平指标而言是自然的,但现有理论结果大多局限于渐近贝叶斯一致性。本文我们在 EUM 框架内,针对优化广义指标,发展出原则学习算法,基于更强的 -一致性概念。我们的关键贡献是设计新的多标签学习替代损失函数,具备可证明的 -一致性界,使其能够针对假设类和有限样本进行非渐近保证的优化。关键的是,我们证明这些组合公式化的替代损失函数恰好分解,在严格 时间内无需近似。基于这一基础,我们引入 MMO(Multi-Label Metric Optimization),即一族针对优化广义线性分数指标的算法。我们通过大规模数据集(MS-COCO、Reuters-21578)上的广泛实验验证了我们的方案,在高稀疏、深度学习情境下表现出稳健的可扩展性和优于最新持续基线的性能。我们的结果在理论严谨性和实际有效性方面,为一般化的多标签指标优化提供了支持。
引用
@article{arxiv.2605.28767,
title = {Principled Algorithms for Optimizing Generalized Metrics in Multi-Label Learning},
author = {Mehryar Mohri and Yutao Zhong},
journal= {arXiv preprint arXiv:2605.28767},
year = {2026}
}