中文

多标签学习中每次仅推开一对标签:从单正标签到全标签

机器学习 2024-06-11 v1

摘要

在多标签学习(MLL)中,由于成本高昂和知识有限,精确标注每个出现的对象极具挑战。面对此挑战,一种更实用且更廉价的替代方案应是单正多标签学习(SPMLL),其每样本仅需提供一个正标签。现有 SPMLL 方法通常将未知标签假设为负标签,这不可避免地引入作为噪声标签的假负例。更严重的是,训练常采用二值交叉熵(BCE)损失,其以对噪声标签不鲁棒而著称。为缓解该问题,我们为 SPMLL 定制了目标函数,每次仅推开一对标签以防止负标签主导——负标签主导正是 SPMLL 中拟合噪声标签的罪魁祸首。为进一步对抗此类噪声标签,我们探究了标签矩阵的高秩性,其同样可推开不同标签。通过从 SPMLL 直接扩展至具全标签的 MLL,导出了一种适用于两种设置的统一损失。在真实数据集上的实验表明,所提损失不仅对 SPMLL 中的噪声标签更鲁棒,也适用于全标签。此外,我们经验性地发现高秩性可缓解 SPMLL 中的剧烈性能下降。最令人惊讶的是,即便无任何正则化或精细的标签修正,仅采用我们的损失即在严重缺乏标签的数据集 CUB 上击败了最先进的 SPMLL 方法。

关键词

引用

@article{arxiv.2302.14695,
  title  = {Pushing One Pair of Labels Apart Each Time in Multi-Label Learning: From Single Positive to Full Labels},
  author = {Xiang Li and Xinrui Wang and Songcan Chen},
  journal= {arXiv preprint arXiv:2302.14695},
  year   = {2024}
}

备注

11 pages, 7 figures