当偏差缓解不公平时：算法群体公平性中的多重性与任意性
机器学习
2024-05-24 v2 机器学习
摘要
大多数公平机器学习研究优先优化如人口均等（Demographic Parity）与均等几率（Equalized Odds）等准则。尽管有这些努力，对于不同偏差缓解策略如何影响个体预测以及它们是否将任意性引入去偏过程，仍理解有限。本文通过探究取得可比公平性与准确性度量的模型是否影响相同个体并以一致方式缓解偏差，来填补这些空白。我们引入 FRAME（公平性任意性与多重性评估）框架，其通过五个维度评估偏差缓解：影响规模（多少人受影响）、改变方向（正向 versus 负向改变）、决策率（对模型接受率的影响）、受影响子群体（谁受影响）以及被忽视子群体（不公平持续之处）。该框架旨在帮助实践者理解去偏过程的影响，并就模型选择做出更明智的决策。将 FRAME 应用于跨关键数据集的各种偏差缓解方法，使我们展现出去偏方法行为的显著差异。这些发现凸显了当前公平性准则的局限以及去偏过程中固有的任意性。
引用
@article{arxiv.2302.07185,
title = {When mitigating bias is unfair: multiplicity and arbitrariness in algorithmic group fairness},
author = {Natasa Krco and Thibault Laugel and Vincent Grari and Jean-Michel Loubes and Marcin Detyniecki},
journal= {arXiv preprint arXiv:2302.07185},
year = {2024}
}