公平性改进基于噪声标签长尾数据的学习
机器学习
2023-03-23 v1
摘要
长尾数据与噪声标签数据在现实应用中频繁出现，并为学习带来显著挑战。多数先前工作孤立地处理任一问题，未显式考虑二者的耦合效应。我们的经验观察揭示，当数据集为带标签噪声的长尾数据时，此类解决方案无法一致地改善学习。此外，在标签噪声存在下，现有方法未在不同子群体间观察到普遍改进；换言之，某些子群体以损害其他子群体为代价享受了准确率提升的收益。基于这些观察，我们引入公平性正则化器（FR），其受正则化任意两个子群体间性能差距的启发。我们表明所引入的公平性正则化器改善了尾部子群体与整体学习性能。大量实验证明了当与某些现有流行的鲁棒或类平衡方法结合时，所提方案的有效性。
引用
@article{arxiv.2303.12291,
title = {Fairness Improves Learning from Noisily Labeled Long-Tailed Data},
author = {Jiaheng Wei and Zhaowei Zhu and Gang Niu and Tongliang Liu and Sijia Liu and Masashi Sugiyama and Yang Liu},
journal= {arXiv preprint arXiv:2303.12291},
year = {2023}
}
备注
Paper under review