在标签噪声下样本加权我们真的需要金标准样本吗?

由于深度神经网络在常见损失函数下对标签噪声敏感,带标签噪声的学习近来获得了显著关注。然而,理论上对标签噪声鲁棒的损失常使训练困难。因此,若干近期提出的方法(如Meta-Weight-Net (MW-Net))使用少量无偏干净样本,在元学习框架下学习一个加权函数,以对可能具有损坏标签的样本降权。然而,在实践中获取这样一组干净样本并非总是可行。在本文中,我们分析地表明,只需使用对标签噪声鲁棒的损失函数(如平均绝对误差)作为元目标来训练加权网络,即可在无法访问干净样本的情况下轻松训练MW-Net。我们通过实验表明,我们的方法击败了所有不使用干净样本的现有方法,并在各类噪声类型和噪声率下的基准数据集上与使用金标准样本的方法性能相当。