PiCO+:用于鲁棒部分标签学习的对比标签消歧
机器学习
2022-12-01 v3
摘要
部分标签学习(PLL)是一个重要问题,它允许每个训练样本被标注一个粗粒度候选集,非常契合许多具有标签模糊性的真实数据标注场景。尽管有前景,PLL 的性能常落后于监督对应方法。本工作中,我们在一个连贯框架中通过解决 PLL 的两个关键研究挑战——表示学习与标签消歧——来弥合差距。具体地,我们提出的框架 PiCO 由一个对比学习模块与一种新颖的基于类原型的标签消歧算法组成。PiCO 为同类样本产生紧密对齐的表示并促进标签消歧。理论上,我们证明这两个组件互有益处,并可从期望最大化(EM)算法视角严格论证。此外,我们研究一个具挑战性但实用的噪声部分标签学习设定,其中真值可能未包含在候选集中。为补救该问题,我们提出扩展版 PiCO+,其执行基于距离的干净样本选择,并通过半监督对比学习算法学习鲁棒分类器。大量实验表明,我们提出的方法在标准与噪声 PLL 任务中显著优于当前 SOTA 方法,甚至取得与全监督学习相当的结果。
引用
@article{arxiv.2201.08984,
title = {PiCO+: Contrastive Label Disambiguation for Robust Partial Label Learning},
author = {Haobo Wang and Ruixuan Xiao and Yixuan Li and Lei Feng and Gang Niu and Gang Chen and Junbo Zhao},
journal= {arXiv preprint arXiv:2201.08984},
year = {2022}
}
备注
Extended version of the ICLR 2022 paper PiCO; see https://openreview.net/forum?id=EhYjZy6e1gJ