构建辅助高置信实例级损失以促进从标签比例中学习
人工智能
2025-03-26 v2 机器学习
摘要
从标签比例学习(LLP)是一项具有挑战性的弱监督学习任务,旨在利用实例包及包内的类别比例来训练分类器,而非每个实例的标注标签。除了传统的包级损失,LLP的主流方法是结合由预测形成的伪标签的辅助实例级损失。遗憾的是,我们在实验中观察到伪标签往往因过度平滑而不准确,特别是在包大小较大的场景下,损害了分类器的诱导。为缓解此问题,我们提出了一种新的LLP方法,即带有辅助高置信实例级损失的从标签比例学习(L^2P-AHIL)。具体而言,我们提出了一种双熵权重(DEW)方法,以自适应地度量伪标签的置信度。它同时强调包级的准确预测并避免过度平滑的预测。随后,我们利用DEW构建高置信实例级损失,并以自训练方式将其与包级损失联合优化。基准数据集上的实验结果表明,L^2P-AHIL能够超越现有的基线方法,且随着包大小增加,性能提升更为显著。我们的方法实现可在https://github.com/TianhaoMa5/LLP-AHIL获取。
引用
@article{arxiv.2411.10364,
title = {Forming Auxiliary High-confident Instance-level Loss to Promote Learning from Label Proportions},
author = {Tianhao Ma and Han Chen and Juncheng Hu and Yungang Zhu and Ximing Li},
journal= {arXiv preprint arXiv:2411.10364},
year = {2025}
}
备注
Accepted as a conference paper at CVPR 2025