中文

考虑替代方案:通过取消资格机制应对公平-精度权衡

机器学习 2021-10-05 v1 计算机与社会

摘要

在许多机器学习场景中,公平性与精度诉求之间存在固有张力。面对此类权衡应如何前行?本文引入并研究了 γ\gamma-disqualification(γ-取消资格),一种在监督学习背景下针对基准类 HH 推理公平-精度权衡的新框架。我们的要求规定:若存在从 HH 中切换至另一分类器即可改善其公平性且精度损失“不大”,则该分类器应被取消资格。“不大”的程度通过参数 γ\gamma 量化,该参数作为指定精度与公平性之间可接受权衡的载体,且独立于特定任务中用于量化公平与精度的具体指标。为此,我们针对不同精度度量建立了精度单位与(不)公平单位之间有原则的转换关系。我们展示了 γ\gamma-取消资格可用于轻松比较不同学习策略在公平-精度权衡上的表现,并给出了从寻找满足我们要求的最优分类器问题到近似 HH 的帕累托前沿问题的高效归约。

关键词

引用

@article{arxiv.2110.00813,
  title  = {Consider the Alternatives: Navigating Fairness-Accuracy Tradeoffs via Disqualification},
  author = {Guy N. Rothblum and Gal Yona},
  journal= {arXiv preprint arXiv:2110.00813},
  year   = {2021}
}