以一致性对抗噪声标签：一种带协同正则的联合训练方法
计算机视觉与模式识别
2020-04-24 v3 机器学习
机器学习
摘要
带噪声标签的深度学习是弱监督学习中一个具有实际挑战性的问题。最先进的方法“Decoupling”和“Co-teaching+”声称，“不一致”策略对于缓解带噪声标签学习的问题至关重要。在本文中，我们从不同的角度出发，提出了一种称为 JoCoR 的鲁棒学习范式，旨在降低训练过程中两个网络的多样性。具体而言，我们首先使用两个网络对同一 mini-batch 数据做出预测，并为每个训练样本计算带协同正则（Co-Regularization）的联合损失。然后我们选择小损失样本同时更新两个网络的参数。在联合损失的训练下，由于协同正则的作用，这两个网络会变得越来越相似。在包括 MNIST、CIFAR-10、CIFAR-100 和 Clothing1M 在内的基准数据集的损坏数据上进行的大量实验结果表明，JoCoR 优于许多用于带噪声标签学习的最先进方法。
引用
@article{arxiv.2003.02752,
title = {Combating noisy labels by agreement: A joint training method with co-regularization},
author = {Hongxin Wei and Lei Feng and Xiangyu Chen and Bo An},
journal= {arXiv preprint arXiv:2003.02752},
year = {2020}
}
备注
Accepted by CVPR 2020; Code is available at: https://github.com/hongxin001/JoCoR. arXiv admin note: text overlap with arXiv:1901.04215 by other authors