通过儿童福利案例研究构建的公共部门高风险算法决策框架
人机交互
2021-10-14 v3 计算机与社会
摘要
算法已渗透至民事政府与社会之中，被用于对人类生命做出高风险决策。本文首先综合人机交互(HCI)、科学技术研究(STS)与公共行政(PA)等分散领域的工作，构建了一个适配公共部门的连贯算法决策框架(ADMAPS)，以反映人类裁量、官僚流程与算法决策之间复杂的社会技术互动。随后，我们将ADMAPS框架应用于美国中西部一家服务约900个家庭与1300名儿童的儿童福利机构中日常使用算法的深入八个月民族志案例研究，进行定性分析。总体而言，我们发现需要关注以社会生态框架为中心的基于优势的算法结果。此外，算法系统应支持现有官僚流程并增强人类裁量，而非取代它。最后，算法系统的集体认同需要在从业者与官僚层面都对目标结果建立信任。基于本研究，我们提出了儿童福利系统乃至更广义公共部门中高风险算法决策工具的设计准则。我们通过对理论推导的ADMAPS框架进行实证检验，证明其可用于系统性地就公共部门算法设计做出务实决策。
引用
@article{arxiv.2107.03487,
title = {A Framework of High-Stakes Algorithmic Decision-Making for the Public Sector Developed through a Case Study of Child-Welfare},
author = {Devansh Saxena and Karla Badillo-Urquiola and Pamela Wisniewski and Shion Guha},
journal= {arXiv preprint arXiv:2107.03487},
year = {2021}
}