BadLabel：评估与增强标签噪声学习的鲁棒视角
机器学习
2024-02-13 v2 计算机视觉与模式识别
摘要
标签噪声学习（LNL）旨在给定带有噪声标签的训练数据时提升模型的泛化能力。为推进实用的 LNL 算法，研究者提出了不同的标签噪声类型，从类条件噪声到实例依赖噪声。本文引入一种称为 BadLabel 的新型标签噪声类型，它能使现有 LNL 算法的性能大幅退化。BadLabel 基于针对标准分类的标签翻转攻击构建，其中特定样本被选中并将其标签翻转为其他标签，使得干净标签与噪声标签的损失值变得不可区分。为应对 BadLabel 带来的挑战，我们进一步提出一种鲁棒 LNL 方法，该方法在每个 epoch 以对抗方式扰动标签，使干净标签与噪声标签的损失值再次可区分。一旦我们筛选出一小部分（大多）干净标注数据，便可应用半监督学习技术准确训练模型。实验上，我们的结果表明现有 LNL 算法易受新引入的 BadLabel 噪声类型攻击，而我们提出的鲁棒 LNL 方法能在各类标签噪声下有效提升模型泛化性能。带有噪声标签的新数据集及鲁棒 LNL 算法源码见 https://github.com/zjfheart/BadLabels。
引用
@article{arxiv.2305.18377,
title = {BadLabel: A Robust Perspective on Evaluating and Enhancing Label-noise Learning},
author = {Jingfeng Zhang and Bo Song and Haohan Wang and Bo Han and Tongliang Liu and Lei Liu and Masashi Sugiyama},
journal= {arXiv preprint arXiv:2305.18377},
year = {2024}
}
备注
IEEE T-PAMI 2024 Accept