一种实例相关的标签噪声学习模拟框架
机器学习
2021-10-19 v4 人机交互
摘要
我们提出了一种通过伪标签范式生成实例相关噪声标签的模拟框架。我们表明,与独立随机翻转和类条件随机翻转相比,使用我们的框架生成的合成噪声标签的分布更接近人类标签。配备可控标签噪声,我们研究了噪声标签在几个实际设置中的负面影响,以了解标签噪声何时更成问题。我们还对几种现有的噪声标签学习算法进行了基准测试,并比较了它们在合成数据集和具有独立随机标签噪声的数据集上的行为。此外,利用模拟框架中的标注者信息,我们提出了一种新技术——标签质量模型(LQM),该模型利用标注者特征来预测和纠正噪声标签。我们表明,在应用现有噪声标签技术之前,将LQM作为标签校正步骤,可以进一步提高模型的性能。
引用
@article{arxiv.2107.11413,
title = {An Instance-Dependent Simulation Framework for Learning with Label Noise},
author = {Keren Gu and Xander Masotto and Vandana Bachani and Balaji Lakshminarayanan and Jack Nikodem and Dong Yin},
journal= {arXiv preprint arXiv:2107.11413},
year = {2021}
}
备注
Datasets released at https://github.com/deepmind/deepmind-research/tree/master/noisy_label