如何训练一名（糟糕的）算法个案工作者：儿童福利中风险评估的定量解构
人机交互
2022-12-21 v2
摘要
儿童福利（CW）机构使用风险评估工具作为实现循证、一致且无偏决策的手段。这些风险评估充当数据收集机制，并在近年来进一步演化为算法系统。此外，由于结构化评估数据易于获取，其中若干算法强化了带有偏见的建构性理论与预测变量。在本研究中，我们批判性地考察了华盛顿风险评估模型（WARM）——一个已被美国超过 30 个州采用并被改造成更复杂算法的著名风险评估工具。我们将 WARM 与使用该工具的个案工作者所写个案记录的叙事编码进行比对。我们发现个案记录与 WARM 数据之间存在显著分歧，其中 WARM 分数并未反映个案工作者关于家庭风险的记录。我们向 SIGCHI 社区提供关于儿童福利算法定量解构的一些初步发现。
引用
@article{arxiv.2203.05695,
title = {How to Train a (Bad) Algorithmic Caseworker: A Quantitative Deconstruction of Risk Assessments in Child-Welfare},
author = {Devansh Saxena and Charlie Repaci and Melanie Sage and Shion Guha},
journal= {arXiv preprint arXiv:2203.05695},
year = {2022}
}