弥合鸿沟：拓展公共部门 AI 驱动决策的工具集
机器学习
2024-10-15 v3 计算机与社会
人机交互
统计方法学
摘要
AI 驱动的决策系统正在公共部门中发挥重要作用，其应用涵盖刑事司法、社会福利、金融欺诈检测和公共卫生等领域。尽管这些系统在机构决策流程中具有提高效率与可靠性等巨大潜在益处，但它们面临着将机器学习（ML）模型与公共部门决策的复杂现实相对齐的挑战。在本文中，我们考察了可能出现错位的五个关键挑战，包括分布偏移、标签偏差、过去决策在数据侧的影响，以及模型输出侧的竞争目标与人机协同。我们的发现表明，标准 ML 方法常依赖于未充分考虑这些复杂性的假设，可能导致不可靠且有害的预测。为此，我们提出将建模工作从仅关注预测准确性转向改善决策结果。我们通过考量模型估计量如何与决策者的效用相连接，为选择适当的建模框架（包括反事实预测与策略学习）提供指导。此外，我们概述了在各建模方法中应对特定挑战的技术手段。最后，我们论证了领域专家与利益相关者外部输入的重要性，以确保模型假设与设计选择与现实政策目标一致，朝着协调 AI 与公共部门目标迈出一步。
引用
@article{arxiv.2310.19091,
title = {Bridging the gap: Towards an Expanded Toolkit for AI-driven Decision-Making in the Public Sector},
author = {Unai Fischer-Abaigar and Christoph Kern and Noam Barda and Frauke Kreuter},
journal= {arXiv preprint arXiv:2310.19091},
year = {2024}
}