基于类原型的标签噪声学习清洗器
计算机视觉与模式识别
2022-12-22 v1
摘要
基于半监督学习的方法是目前解决噪声标签学习问题的SOTA方案，其依赖于先学习一个无监督标签清洗器，将训练样本划分为用于干净数据的有标签集与用于噪声数据的无标签集。通常，该清洗器通过对每个样本训练损失分布拟合混合模型获得。然而，该建模过程为\emph{类无关}的，并假设干净样本与噪声样本的损失分布在不同类别间相同。不幸地是，实践中由于不同类别的学习难度各异，此类假设并非总成立，从而导致次优的标签噪声划分准则。本工作中，我们揭示了这一长期被忽视的问题，并提出了一种简单而有效的解决方案，称为\textbf{C}lass \textbf{P}rototype-based label noise \textbf{C}leaner（\textbf{CPC}，基于类原型的标签噪声清洗器）。与以往平等对待所有类别的工作不同，CPC充分考虑损失分布异质性，并施加类感知调制以划分干净与噪声数据。CPC同时利用损失分布建模与特征空间中的类内一致性正则化，从而更好区分干净与噪声标签。我们从期望最大化（EM）框架出发理论论证了方法的有效性。在噪声标签基准CIFAR-10、CIFAR-100、Clothing1M与WebVision上进行了大量实验，结果表明CPC在各基准上均带来一致的性能提升。代码与预训练模型将发布于\url{https://github.com/hjjpku/CPC.git}。
引用
@article{arxiv.2212.10766,
title = {Class Prototype-based Cleaner for Label Noise Learning},
author = {Jingjia Huang and Yuanqi Chen and Jiashi Feng and Xinglong Wu},
journal= {arXiv preprint arXiv:2212.10766},
year = {2022}
}