基于标签蒸馏的对抗感知偏标签学习
机器学习
2023-04-04 v1 计算机视觉与模式识别
摘要
为确保从受试者收集的数据所托付的秘密，有意引入对手标签以掩盖参与者提供的信息。相应的学习任务可被表述为带噪偏标签学习问题。然而，传统偏标签学习（PLL）方法仍易受高比例噪声偏标签的影响，尤其在大型标注空间中。为学习更鲁棒模型，我们提出对抗感知偏标签学习，并将 （一组噪声标签）引入每个实例的候选标签集合。通过引入对手标签，PLL的预测分布被分解，从而在假设对手生成过程已知的情况下，以来自转移矩阵的较小不确定性获得便利的预测标签。尽管如此，预测精度仍不足以产生足够准确的阳性样本集以利用对比损失函数的聚类效应。此外，由于转移矩阵的难处理性，对手的引入也给分类器与风险函数带来不一致问题。因此，提出一种带动量的对抗教师（ATM）消歧算法以应对该情形，使我们能获得可证明一致的分类器与风险函数。此外，我们的方法对标签噪声转移矩阵的选择表现出高弹性。大量实验表明，我们的方法在CIFAR10、CIFAR100与CUB200数据集上取得了有前景的结果。
引用
@article{arxiv.2304.00498,
title = {Adversary-Aware Partial label learning with Label distillation},
author = {Cheng Chen and Yueming Lyu and Ivor W. Tsang},
journal= {arXiv preprint arXiv:2304.00498},
year = {2023}
}