算法画像中的公平性：以德国为例的研究
计算机与社会
2021-08-10 v1 机器学习
应用统计
摘要
算法画像在公共部门中正日益被用作有效且客观地分配有限公共资源的一种手段。一个例子是基于预测的求职者统计画像，以指导公共就业服务机构对支持措施的分配。然而，对于诸如非预期歧视与公平性担忧等潜在副作用的实证评估却很少见。在本研究中，我们从预测性能、公平性度量以及对数据分析决策脆弱性的角度，比较并评估了用于预测求职者成为长期失业者风险的统计模型。以德国为用例，我们利用德国公共就业服务机构常规收集的求职者就业史行政数据，在现实条件下评估画像模型。除了表明这些数据可用于以具有竞争力的准确度预测长期失业外，我们强调不同的分类策略具有非常不同的公平性影响。因此，我们呼吁在此类模型投入实践之前进行严格的审计流程。
引用
@article{arxiv.2108.04134,
title = {Fairness in Algorithmic Profiling: A German Case Study},
author = {Christoph Kern and Ruben L. Bach and Hannah Mautner and Frauke Kreuter},
journal= {arXiv preprint arXiv:2108.04134},
year = {2021}
}