通过元软标签校正器学习净化噪声标签

近期的深度神经网络(DNNs)容易过拟合于带有噪声标签的偏置训练数据。标签校正策略通常通过设计一种方法来识别可疑的噪声标签并对其进行纠正,从而缓解该问题。当前纠正损坏标签的方法通常需要某些预定义的标签校正规则或手动预设的超参数。这些固定设置使其难以在实际应用中推广,因为准确的标签校正通常与具体问题、训练数据以及训练过程动态迭代中隐藏的时序信息相关。为解决此问题,我们提出了一种元学习模型,其可在无噪声元数据的指导下通过元梯度下降步骤估计软标签。通过将标签校正过程视为元过程并使用元学习器自动纠正标签,我们可以根据当前训练问题自适应地迭代获取修正后的软标签,而无需手动预设超参数。此外,我们的方法是模型无关的,可轻松与任何其他现有模型结合。综合实验证实了我们的方法在合成和真实世界噪声标签问题上相对于当前 SOTA 标签校正策略的优越性。