从模型多样性视角重新审视无意识公平性
机器学习
2025-08-26 v2 计算机与社会
机器学习
摘要
无意识公平性（FtU）指出，通过不在决策或预测中考虑族群成员身份，可避免对人口统计族群的歧视。这一观念长期以来在机器学习文献中受到批评，认为其不足以确保公平性。此外，使用额外特征通常被认为会提高所有族群的预测准确率，因此FtU有时被认为对所有族群都不利。本文从理论和实证两个角度表明，FtU可以在不必要地降低准确率的情况下减少算法性歧视。我们将这一洞见与模型多样性文献相联系，并贡献于该领域的新型理论和实证结果。此外，我们展示了在真实应用场景中，FtU可在不牺牲效能的前提下促进更公平的政策部署。我们的发现表明，FtU值得在实际应用中考虑，尤其是在高风险情境下；对于像性别这类受保护属性的预测模型，应伴随明确且合理的依据。
引用
@article{arxiv.2505.16638,
title = {Reconsidering Fairness Through Unawareness From the Perspective of Model Multiplicity},
author = {Benedikt Höltgen and Nuria Oliver},
journal= {arXiv preprint arXiv:2505.16638},
year = {2025}
}