富者愈富：半监督学习的差异影响
机器学习
2023-09-04 v4 机器学习
摘要
半监督学习（SSL）已在高质量有监督数据严重受限时，展现出提升多种学习任务模型精度的潜力。尽管通常已确立全体数据群体的平均精度得到提升，但 SSL 对不同子群体的表现如何仍不清楚。当不同子群体由我们旨在公平对待的人口统计群体定义时，理解上述问题具有重大的公平性意涵。本文揭示了部署 SSL 的差异影响：在不使用 SSL 时基线精度更高（即“富者”）的子群体往往从 SSL 中获益更多；而基线精度低（即“贫者”）的子群体在加入 SSL 模块后甚至可能观察到性能下降。我们对广泛一类显式或隐式使用辅助“伪标签”的 SSL 算法，从理论与实证上确立了上述观察。在一系列图像与文本分类任务上的实验证实了我们的主张。我们引入一个新指标——获益比（Benefit Ratio），并倡导对 SSL 的公平性进行评估（均衡获益比）。我们进一步讨论了如何缓解该差异影响。我们希望本文能警示使用 SSL 的潜在陷阱，并鼓励对未来 SSL 算法进行多面评估。
引用
@article{arxiv.2110.06282,
title = {The Rich Get Richer: Disparate Impact of Semi-Supervised Learning},
author = {Zhaowei Zhu and Tianyi Luo and Yang Liu},
journal= {arXiv preprint arXiv:2110.06282},
year = {2023}
}
备注
Published as a conference paper at ICLR 2022. Revised constants Theorems 1,2, and Lemma 3 (consider the union bound). Add acknowledgments to Nautilus