面向噪声标签的联合负学习与正学习
机器学习
2021-04-15 v1 机器学习
摘要
已知用带噪声标签的数据训练卷积神经网络（CNNs）是一项挑战。基于直接向数据提供标签（正学习；PL）在噪声数据情况下有使 CNN 记忆受污染标签风险这一事实，使用互补标签的间接学习方法（噪声标签负学习；NLNL）已被证明能极有效地防止对噪声数据过拟合，因其降低了提供错误目标的风险。NLNL 进一步采用三阶段流程以改善收敛。结果，通过 NLNL 流程过滤噪声数据繁琐，增加了训练成本。本研究中，我们提出 NLNL 的新改进，称为联合负学习与正学习（JNPL），将过滤流程统一为单阶段。JNPL 通过两个损失训练 CNN：NL+ 和 PL+，它们分别基于 NL 和 PL 损失函数改进而来。我们分析了 NL 损失函数的根本问题，并开发出新的 NL+ 损失函数，其产生的梯度可增强噪声数据的收敛。此外，PL+ 损失函数旨在使对预期为干净数据的收敛更快。我们展示了 NL+ 和 PL+ 同时训练 CNN，显著简化流程，相比 NLNL 更易实际使用。借助简单半监督训练技术，我们的方法基于优越的过滤能力在噪声数据分类上达到了最先进准确率。
引用
@article{arxiv.2104.06574,
title = {Joint Negative and Positive Learning for Noisy Labels},
author = {Youngdong Kim and Juseung Yun and Hyounguk Shon and Junmo Kim},
journal= {arXiv preprint arXiv:2104.06574},
year = {2021}
}
备注
CVPR 2021, Accepted