L2B：学习引导自举鲁棒模型以对抗标签噪声
计算机视觉与模式识别
2024-03-29 v2
摘要
深度神经网络在表示学习方面取得了巨大成功。然而，当使用噪声标签学习（LNL）时，它们很容易过拟合并且无法泛化到新数据。本文介绍了一种简单有效的方法，称为学习引导自举（Learning to Bootstrap, L2B），它使模型能够利用自身预测进行自举，而不受错误伪标签的不利影响。这是通过元学习动态调整真实观测标签与生成标签之间以及不同样本之间的重要性权重来实现的。与现有的实例重加权方法不同，我们方法的关键在于一个新的、通用的目标函数，它能够同时实现隐式重标注，从而在不产生额外成本的情况下取得显著改进。L2B相对于基线方法具有若干优势。它通过更有效地引导自举过程，产生对噪声标签影响较不敏感的更鲁棒模型。它通过调整实例和标签的权重，更好地利用损坏实例中包含的有价值信息。此外，L2B与现有LNL方法兼容，并在合成和真实世界噪声下的自然和医学成像任务（包括分类和分割）中提供有竞争力的结果。大量实验表明，我们的方法有效缓解了噪声标签的挑战，通常只需要极少甚至不需要验证样本，并且能很好地泛化到其他任务如图像分割。这不仅使其成为现有LNL技术的鲁棒补充，也凸显了其实际适用性。代码和模型可在 https://github.com/yuyinzhou/l2b 获取。
引用
@article{arxiv.2202.04291,
title = {L2B: Learning to Bootstrap Robust Models for Combating Label Noise},
author = {Yuyin Zhou and Xianhang Li and Fengze Liu and Qingyue Wei and Xuxi Chen and Lequan Yu and Cihang Xie and Matthew P. Lungren and Lei Xing},
journal= {arXiv preprint arXiv:2202.04291},
year = {2024}
}
备注
CVPR 2024; code is available at https://github.com/yuyinzhou/l2b