解处理七年来的算法公平性
机器学习
2024-03-18 v5 计算机与社会
摘要
七年前，研究者提出了一种后处理方法，以均衡模型在不同人口群体间的错误率。该工作引发了数百篇声称超越此后处理基线的论文。我们通过多个表格数据集上的数千次模型评估，对这些主张进行实证检验。我们发现，后处理所达到的公平性-准确率帕累托前沿包含了我们所能合理评估的所有其他方法。在此过程中，我们指出了两个曾混淆以往观察的常见方法学错误：其一涉及以不同无约束基模型比较方法；其二关乎方法达到不同水平的约束松弛。我们研究的核心是一个称为解处理（unprocessing）的简单思想，它大致对应于后处理的逆操作。解处理使得使用不同底层模型和不同松弛水平的方法得以直接比较。
引用
@article{arxiv.2306.07261,
title = {Unprocessing Seven Years of Algorithmic Fairness},
author = {André F. Cruz and Moritz Hardt},
journal= {arXiv preprint arXiv:2306.07261},
year = {2024}
}