用于从极高类条件噪声标签中学习的 GAN
机器学习
2020-10-20 v1
摘要
我们利用生成对抗网络（GANs）设计了一种类条件标签噪声（CCN）鲁棒二分类方案。它首先从带噪声标签的数据及 0.1% 或 1% 干净标签中生成一组正确标注的数据点，使得生成数据与真实（干净）标注数据的分布接近；生成的标注数据用于学习一个良好的分类器。通过采用 Wasserstein GAN 与一种简单的数据表示变换，避免了在生成正确特征-标签对时的模式崩溃问题以及特征-标签维度比（约 784:1）失衡的问题。我们还基于新表示提出了另一种具有信息论色彩的 WGAN。两种方案的主要优势在于，在极高 CCN 率下相较现有方法有明显提升，且无需估计或交叉验证噪声率。我们证明了在对称标签噪声模型中干净与噪声分布间的 KL 散度随噪声率增大而增加，并可推广至高通量 CCN 率。这意味着我们的方案因 GAN 的对抗性质而表现良好。此外，在处理噪声时使用生成式方法（学习干净联合分布）使我们的方案优于 GLC、LDMI 和 GCE 等判别方法，即便在类别高度不平衡时亦然。利用 Friedman F 检验与 Nemenyi 事后检验，我们表明在高维二分类合成、MNIST 和 Fashion MNIST 数据集上，我们的方案优于现有方法，并在各噪声率下表现一致。
引用
@article{arxiv.2010.09577,
title = {GANs for learning from very high class conditional noisy labels},
author = {Sandhya Tripathi and N Hemachandra},
journal= {arXiv preprint arXiv:2010.09577},
year = {2020}
}