面向噪声标签学习的鲁棒时间集成方法
计算机视觉与模式识别
2021-09-30 v1 机器学习
摘要
深度神经网络在含噪声标签下的成功训练是一项关键能力，因为大多数真实世界数据集都包含一定数量的错误标注数据。若不加以缓解，标签噪声会严重降低典型的监督学习方法性能。本文提出鲁棒时间集成（RTE），它将鲁棒损失与半监督正则化方法相结合，以实现抗噪声的鲁棒学习。我们证明，RTE 在 CIFAR-10、CIFAR-100、ImageNet、WebVision 和 Food-101N 数据集上取得了最先进的性能，同时摒弃了近期流行的标签过滤和/或修正趋势。最后，我们表明，使用 CIFAR-10-C，RTE 对未预见输入噪声也保持了有竞争力的 corruption 鲁棒性，即使在 80% 噪声比例下，平均 corruption 误差（mCE）为 13.50%，而标准方法在干净数据上为 26.9% mCE。
引用
@article{arxiv.2109.14563,
title = {Robust Temporal Ensembling for Learning with Noisy Labels},
author = {Abel Brown and Benedikt Schifferer and Robert DiPietro},
journal= {arXiv preprint arXiv:2109.14563},
year = {2021}
}
备注
includes additional baselines and hyperparam references