算法公平的追求：关于“修正”儿童福利 reunification 成功分类器中的算法不公平
机器学习
2020-10-26 v1 统计计算
摘要
公共部门预测分析工具的算法公平性日益成为严格探索的主题。尽管例如涉及刑事再犯与学术招生的工具已广受关注，儿童福利辖区的预测工具却甚少受到关注。这部分是因为此类工具相对较少，且即便有也极少通过算法公平的视角被审视。在这项工作中，我们力求弥补这两方面的空白。为此，我们提出了一种用于预测俄勒冈州儿童福利中团聚成功的新型分类算法，包括构建此类工具的所有相关细节。该工具的目的是最大化稳定团聚的数量，并识别可能需要额外资源与审查的潜在不稳定团聚。此外，由于所得工具若不加改动其算法公平性无疑有所欠缺，我们给出了用于缓解此类不公平的程序，以及每个艰难且不可避免选择背后的理由。该程序虽类似于其他后处理群体特定阈值方法，但其新颖之处在于使用了带惩罚的优化器与情境必需的子采样。这些新颖的方法论组成部分带来了对公平与准确率之间权衡连续体的丰富且具信息性的经验理解。由于所开发的程序可推广至多种算法公平的群体级定义，以及任意数量的受保护属性层级与风险阈值，该方法在儿童福利内外均具有广泛适用性。
引用
@article{arxiv.2010.12089,
title = {The Pursuit of Algorithmic Fairness: On "Correcting" Algorithmic Unfairness in a Child Welfare Reunification Success Classifier},
author = {Jordan Purdy and Brian Glass},
journal= {arXiv preprint arXiv:2010.12089},
year = {2020}
}