不可知损坏标签下的深度神经网络学习
机器学习
2021-02-16 v1 机器学习
摘要
在存在损坏标签的情况下训练深度神经模型具有挑战性，因为损坏的数据点可能显著影响泛化性能。为缓解该问题，我们提出一种高效的鲁棒算法，该算法无需对损坏类型作任何假设即可获得强保证，并为分类与回归问题提供统一框架。与许多基于数据点质量量化（如依据各自损失值）并据此过滤的现有方法不同，所提算法侧重于控制数据点对于平均梯度的集体影响。即使某个损坏数据点未被我们的算法排除，与基于损失值的最先进过滤方法相比，该点对整体损失的影响也极为有限。在多个基准数据集上的大量实验证明了我们的算法在不同损坏类型下的鲁棒性。
引用
@article{arxiv.2102.06735,
title = {Learning Deep Neural Networks under Agnostic Corrupted Supervision},
author = {Boyang Liu and Mengying Sun and Ding Wang and Pang-Ning Tan and Jiayu Zhou},
journal= {arXiv preprint arXiv:2102.06735},
year = {2021}
}