面向噪声标签处理的自过渡鲁棒学习
机器学习
2021-06-08 v2 人工智能
计算机视觉与模式识别
摘要
现实世界数据不可避免地含有噪声标签,导致深度神经网络泛化性能差。已知网络通常在训练某一时刻后开始快速记忆错误标记样本。因此,为应对标签噪声挑战,我们提出一种称为MORPH的新型自过渡学习方法,其在从播种到演化的过渡点自动切换学习阶段。在播种阶段,网络使用所有样本进行更新以收集干净样本种子。随后,在演化阶段,网络仅使用一组可判定为干净的样本进行更新,该样本集由更新后的网络精确持续扩展。因此,MORPH在整个训练周期内有效避免了对错误标记样本的过拟合。使用五个真实世界或合成基准数据集的广泛实验表明,在鲁棒性和效率方面相较SOTA(state-of-the-art,最优)方法均有显著提升。
引用
@article{arxiv.2012.04337,
title = {Robust Learning by Self-Transition for Handling Noisy Labels},
author = {Hwanjun Song and Minseok Kim and Dongmin Park and Yooju Shin and Jae-Gil Lee},
journal= {arXiv preprint arXiv:2012.04337},
year = {2021}
}
备注
Accepted at KDD 2021