考虑替代方案:通过取消资格机制应对公平-精度权衡
机器学习
2021-10-05 v1 计算机与社会
摘要
在许多机器学习场景中,公平性与精度诉求之间存在固有张力。面对此类权衡应如何前行?本文引入并研究了 -disqualification(γ-取消资格),一种在监督学习背景下针对基准类 推理公平-精度权衡的新框架。我们的要求规定:若存在从 中切换至另一分类器即可改善其公平性且精度损失“不大”,则该分类器应被取消资格。“不大”的程度通过参数 量化,该参数作为指定精度与公平性之间可接受权衡的载体,且独立于特定任务中用于量化公平与精度的具体指标。为此,我们针对不同精度度量建立了精度单位与(不)公平单位之间有原则的转换关系。我们展示了 -取消资格可用于轻松比较不同学习策略在公平-精度权衡上的表现,并给出了从寻找满足我们要求的最优分类器问题到近似 的帕累托前沿问题的高效归约。
引用
@article{arxiv.2110.00813,
title = {Consider the Alternatives: Navigating Fairness-Accuracy Tradeoffs via Disqualification},
author = {Guy N. Rothblum and Gal Yona},
journal= {arXiv preprint arXiv:2110.00813},
year = {2021}
}