遗留采购实践塑造美国城市治理 AI：了解政府员工的实践、挑战与需求
计算机与社会
2025-05-14 v3 人工智能
人机交互
摘要
大多数被政府采纳的 AI 工具并非由内部开发，而是通过称为公共采购的过程从第三方供应商获取。本文我们进行了对美国城市采购实践如何塑造公共部门 AI 关键决策的首次实证研究。我们对 19 名负责 7 座美国城市 AI 采购的市政员工进行半结构化访谈。我们发现，受数十年旧法律和规范影响的城市遗留采购实践建立了决定哪些 AI 被采购，以及哪些角色在被采购的 AI 中掌握决策权的基础设施。我们刻画了城市为适应其采购实践以应对算法伤害而采取的新兴措施。基于员工对真实 AI 采购案例的反思，我们识别出三个关键挑战，这些挑战并未被现有的 AI 采购改革计划充分解决。基于这些发现，我们讨论了 FAccT 社区在支持城市在公共采购过程中预见和防止 AI 伤害的意义和机遇。
引用
@article{arxiv.2411.04994,
title = {Legacy Procurement Practices Shape How U.S. Cities Govern AI: Understanding Government Employees' Practices, Challenges, and Needs},
author = {Nari Johnson and Elise Silva and Harrison Leon and Motahhare Eslami and Beth Schwanke and Ravit Dotan and Hoda Heidari},
journal= {arXiv preprint arXiv:2411.04994},
year = {2025}
}
备注
10 pages, 2 column format. In proceedings of ACM FAccT 2025