通过解耦置信学习缓解标签偏差
机器学习
2023-10-02 v2 计算与语言
摘要
对算法公平性的日益关注引发了缓解算法偏差的方法论激增。然而，此类方法在很大程度上假设训练数据中的观测标签是正确的。这是有问题的，因为标签偏差在医疗、招聘和内容审核等重要领域中普遍存在。特别是，人类生成的标签易于编码社会偏见。虽然标签偏差的存在已在概念上被讨论，但缺乏解决该问题的方法论。我们提出了一种剪枝方法——解耦置信学习（DeCoLe）——专门设计用于缓解标签偏差。在合成数据集上展示其性能后，我们将DeCoLe应用于仇恨言论检测这一标签偏差已被视为重要挑战的场景，并表明其成功识别了有偏标签且优于竞争方法。
引用
@article{arxiv.2307.08945,
title = {Mitigating Label Bias via Decoupled Confident Learning},
author = {Yunyi Li and Maria De-Arteaga and Maytal Saar-Tsechansky},
journal= {arXiv preprint arXiv:2307.08945},
year = {2023}
}
备注
AI & HCI Workshop at the 40th International Conference on Machine Learning (ICML), Honolulu, Hawaii, USA. 2023