异质标签噪声如何影响神经网络中的泛化?
计算机视觉与模式识别
2021-09-28 v3
摘要
错误标注的样本(即标签噪声)在现实世界计算机视觉数据集中十分常见。尽管先前工作已研究深度神经网络中标签噪声对学习的影响,但这些研究仅关注同质标签噪声,即所有类别的标签噪声程度相同。然而在现实世界中,标签噪声常常是异质的,某些类别受影响程度大于其他类别。本文填补了该文献空白。我们假设异质标签噪声仅影响含标签噪声的类别,除非存在从这些类别到无标签噪声类别的迁移。为验证该假设,我们使用 MNIST、CIFAR-10、CIFAR-100 和 MS-COCO 设计了一系列计算机视觉研究,在多类、多任务和多标签系统训练时施加异质标签噪声。我们的结果支持该假设:标签噪声仅影响受其影响的类别,除非存在迁移。
引用
@article{arxiv.2106.15475,
title = {How Does Heterogeneous Label Noise Impact Generalization in Neural Nets?},
author = {Bidur Khanal and Christopher Kanan},
journal= {arXiv preprint arXiv:2106.15475},
year = {2021}
}