任意性潜藏于公平-准确性边界之外
机器学习
2023-06-19 v1 计算机与社会
信息论
math.IT
摘要
机器学习任务可能允许多个相互竞争的模型，这些模型取得相似性能却对单个样本产生冲突输出——这一现象被称为预测多样性（predictive multiplicity）。我们证明，仅针对群体公平性和准确性优化的机器学习公平性干预会加剧预测多样性。因此，最先进的公平性干预可在有利的群体公平性和准确性指标背后掩盖高度的预测多样性。我们认为，在部署模型以辅助具有个体层面影响的决策应用时，应考虑“任意性”这一第三维度。为应对该挑战，我们提出了一种适用于任何公平性干预的集成算法，可证明确保更一致的预测。
引用
@article{arxiv.2306.09425,
title = {Arbitrariness Lies Beyond the Fairness-Accuracy Frontier},
author = {Carol Xuan Long and Hsiang Hsu and Wael Alghamdi and Flavio P. Calmon},
journal= {arXiv preprint arXiv:2306.09425},
year = {2023}
}