超越儿童福利中的预测算法
计算机与社会
2024-03-12 v1 人机交互
机器学习
摘要
儿童福利（CW）部门的社会工作者使用基于风险评估（RA）数据构建的预测决策算法来指导和支持 CW 决策。研究人员指出，RA 可能包含有偏见的信号，从而抹平了 CW 案例的复杂性，且算法可能受益于纳入背景丰富的案例叙述，即社会工作者撰写的案例笔记。为了调查这一假设的改进，我们对美国某 CW 机构常用的两种 RA 进行了定量解构。我们训练了分类器模型，以比较有无案例笔记叙述的 RA 的预测效度，并对案例笔记应用计算文本分析以突出其中揭示的主题。我们的研究发现，用于评估家庭和构建 CW 系统预测风险模型（PRM）的常见风险指标，无法预测未与亲生父母团聚儿童的安置结果。我们还发现，虽然案例笔记无法预测安置结果，但它们包含背景案例信号。鉴于 RA 评分和案例笔记缺乏预测效度，我们建议公共部门算法应超越定量风险评估，转而利用叙述等背景信息来源来研究公共社会技术系统。
引用
@article{arxiv.2403.05573,
title = {Beyond Predictive Algorithms in Child Welfare},
author = {Erina Seh-Young Moon and Devansh Saxena and Tegan Maharaj and Shion Guha},
journal= {arXiv preprint arXiv:2403.05573},
year = {2024}
}