基于压缩正则化增强协同教学以应对标签噪声
计算机视觉与模式识别
2021-04-29 v1
摘要
本文研究在存在标签噪声的情况下学习图像分类模型的问题。我们重新审视一种名为 Nested Dropout 的简单压缩正则化方法。我们发现，Nested Dropout 尽管最初用于快速信息检索和自适应数据压缩，却能够恰当地正则化神经网络以对抗标签噪声。此外，由于其简单性，它可轻松与 Co-teaching 结合以进一步提升性能。我们的最终模型保持简单而有效：在两个带有标签噪声的真实世界数据集 Clothing1M 和 ANIMAL-10N 上，取得了与最先进方法相当甚至更优的性能。在 Clothing1M 上，我们的方法获得了 74.9% 的准确率，略优于 DivideMix。在 ANIMAL-10N 上，我们达到了 84.1% 的准确率，而 PLC 公布的最佳公开结果为 83.4%。我们希望这一简单方法可作为标签噪声学习的强基线。我们的实现代码见 https://github.com/yingyichen-cyy/Nested-Co-teaching。
引用
@article{arxiv.2104.13766,
title = {Boosting Co-teaching with Compression Regularization for Label Noise},
author = {Yingyi Chen and Xi Shen and Shell Xu Hu and Johan A. K. Suykens},
journal= {arXiv preprint arXiv:2104.13766},
year = {2021}
}
备注
Accepted by CVPR Workshop 2021. Project page: https://github.com/yingyichen-cyy/Nested-Co-teaching