用于多标签学习的一致勒贝格测度
机器学习
2024-02-02 v1
摘要
多标签损失函数通常是不可微的，需要代理损失函数进行基于梯度的优化。代理损失函数的一致性尚未得到证明，且多标签损失函数之间的冲突特性加剧了这一问题。为了直接从多个相关但可能冲突的多标签损失函数中学习，我们提出了一种基于一致勒贝格测度的多标签学习器（Consistent Lebesgue Measure-based Multi-label Learner, CLML），并证明了 CLML 在 Bayes 风险框架下可实现理论一致性。实验证据支持了我们的理论，表明：（1）CLML 能够持续取得 state-of-the-art 结果；（2）主要性能因素是勒贝格测度设计，因为 CLML 优化的是一个更简单的前馈模型，无需额外的标签图、基于扰动的条件化或语义嵌入；（3）对结果的分析不仅区分了 CLML 的有效性，还突出了代理损失函数与目标损失函数之间的不一致性。
引用
@article{arxiv.2402.00324,
title = {A Consistent Lebesgue Measure for Multi-label Learning},
author = {Kaan Demir and Bach Nguyen and Bing Xue and Mengjie Zhang},
journal= {arXiv preprint arXiv:2402.00324},
year = {2024}
}