基于元目标引导消歧的部分标签学习
机器学习
2023-12-25 v2
摘要
部分标签学习(PLL)是一种典型的弱监督学习框架,其中每个训练样本关联一个候选标签集,其中仅有一个标签有效。为解决 PLL 问题,典型方法尝试通过对候选集进行消歧,或使用先验知识(如训练数据的结构信息),或以自训练方式精炼模型输出。遗憾的是,由于缺乏先验信息或模型训练早期预测不可靠,这些方法常无法获得良好性能。本文提出一种新颖的带元目标引导消歧(MoGD)的部分标签学习框架,旨在通过在小验证集上求解元目标从候选标签集中恢复真实标签。具体而言,为减轻假阳性标签的负面影响,我们基于验证集上的元损失对每个候选标签重新加权。随后,分类器通过最小化加权交叉熵损失进行训练。所提方法可借助普通 SGD 优化器利用多种深度网络轻松实现。理论上,我们证明了元目标的收敛性质并推导了所提方法的估计误差界。在多个基准数据集与真实世界 PLL 数据集上的大量实验表明,与最先进方法相比,所提方法能获得有竞争力的性能。
引用
@article{arxiv.2208.12459,
title = {Meta Objective Guided Disambiguation for Partial Label Learning},
author = {Bo-Shi Zou and Ming-Kun Xie and Sheng-Jun Huang},
journal= {arXiv preprint arXiv:2208.12459},
year = {2023}
}
备注
10 pages