基于小损失准则理解含噪标签下的深度学习
机器学习
2021-06-18 v1 机器学习
摘要
深度神经网络需要大量标注数据才能获得良好性能。在实际应用中，为节省成本，标签通常来自非专家（如众包）收集，因此含有噪声。过去几年中，针对噪声标签的深度学习方法是被开发的，其中许多基于小损失准则。然而，鲜有理论分析解释为何这些方法能从噪声标签中良好学习。本文从理论上解释了广泛使用的的小损失准则为何有效。基于该解释，我们重新形式化了原始小损失准则以更好地处理噪声标签。实验结果验证了我们的理论解释，并展示了重新形式化的有效性。
引用
@article{arxiv.2106.09291,
title = {Towards Understanding Deep Learning from Noisy Labels with Small-Loss Criterion},
author = {Xian-Jin Gui and Wei Wang and Zhang-Hao Tian},
journal= {arXiv preprint arXiv:2106.09291},
year = {2021}
}
备注
Accepted to International Joint Conference on Artificial Intelligence (IJCAI) 2021, includes non-archival supplementary material