噪声容忍互学习中的一致还是分歧？
计算机视觉与模式识别
2022-08-16 v2 人工智能
机器学习
摘要
深度学习在许多领域取得诸多瞩目成就，却受困于数据集中的噪声标签。最先进的带噪标签学习方法 Co-teaching 与 Co-teaching+ 通过双网络间的互信息应对噪声标签。然而，双网络总趋于收敛，这会削弱双网络机制抵抗噪声标签的能力。本文中，我们提出一种端到端的噪声容忍框架 MLC。它通过发散正则化调整双网络，以保障该机制的有效性。此外，我们根据双网络间的一致性修正标签分布。所提方法能利用噪声数据提升网络的准确性、泛化性与鲁棒性。我们在模拟噪声数据集 MNIST、CIFAR-10 与真实世界噪声数据集 Clothing1M 上测试了该方法。实验结果表明，我们的方法优于先前的最先进方法。此外，我们的方法不依赖特定网络，故适用于许多任务。代码见 https://github.com/JiarunLiu/MLC。
引用
@article{arxiv.2203.15317,
title = {Agreement or Disagreement in Noise-tolerant Mutual Learning?},
author = {Jiarun Liu and Daguang Jiang and Yukun Yang and Ruirui Li},
journal= {arXiv preprint arXiv:2203.15317},
year = {2022}
}
备注
ICPR 2022 Poster