无需奖励数据的快速样本重加权学习

训练样本重加权是解决类别不平衡和标签损坏等数据偏差问题的一种有效方法。近期方法基于强化学习和元学习的框架，开发了学习型算法，在模型训练的同时学习样本重加权策略。然而，依赖额外的无偏奖励数据限制了它们的普遍适用性。此外，现有的学习型样本重加权方法需要对模型和加权参数进行嵌套优化，这需要昂贵的二阶计算。本文针对这两个问题，提出了一种新颖的无需额外奖励数据的学习型快速样本重加权（FSR）方法。该方法基于两个关键思想：从历史中学习以构建代理奖励数据，以及特征共享以降低优化成本。我们的实验表明，所提方法在标签噪声鲁棒性和长尾识别上与最先进方法取得相当的结果，同时显著提升了训练效率。源代码公开于 https://github.com/google-research/google-research/tree/master/ieg。