PENCIL:面向噪声标签的深度学习框架
计算机视觉与模式识别
2022-02-18 v1
摘要
深度学习在各种计算机视觉任务中取得了优异性能,但需要大量带有干净标签的训练样本。收集带有噪声标签的数据集很容易,但此类噪声会使网络严重过拟合且准确率急剧下降。为解决该问题,我们提出了一种称为PENCIL的端到端框架,它可以将网络参数和标签估计作为标签分布一同更新。PENCIL独立于骨干网络结构,且不需要辅助的干净数据集或关于噪声的先验信息,因此比现有方法更具通用性和鲁棒性,且易于应用。PENCIL甚至可以反复使用以获得更好的性能。在具有不同噪声类型和噪声率的合成与真实世界数据集上,PENCIL以较大优势超越了先前的最先进(SOTA)方法。并且,通过在骨干网络上添加简单的注意力结构,PENCIL在多标签分类任务中同样有效。实验表明,PENCIL在干净数据集上也是鲁棒的。
引用
@article{arxiv.2202.08436,
title = {PENCIL: Deep Learning with Noisy Labels},
author = {Kun Yi and Guo-Hua Wang and Jianxin Wu},
journal= {arXiv preprint arXiv:2202.08436},
year = {2022}
}
备注
arXiv admin note: substantial text overlap with arXiv:1903.07788