AI 采购清单：重新审视 AI 治理时代的实施
计算机与社会
2024-04-24 v1 人工智能
摘要
过去十年中，公共部门对 AI 的使用一直在悄然增长，但直到最近，对其进行监管的努力才进入公众视野。尽管说起来简单，但在政府中推广合乎伦理且有效的 AI 系统是一项出了名的难以实现的任务。一方面，基于 AI 的工具存在难以解决的隐患，包括对边缘化社区的偏见、安全性和可操纵性的担忧。另一方面，也存在不让采用 AI 变得过于困难的压力，特别是在通常资源少于私营部门的公共部门——节约稀缺的政府资源往往正是使用基于 AI 的工具的初衷。这些矛盾造成了一种现实风险，即为确保边缘化群体不受政府使用 AI 伤害而建立的程序，在实践中可能只是走过场且无效。为了为美国最新一波监管努力提供参考，我们着眼于在政府 AI 使用方面拥有成熟法规的司法管辖区。我们报告了巴西、新加坡和加拿大的官员所获得的经验教训，他们已将风险类别、披露要求和评估纳入其采购 AI 工具的方式中。特别是，我们调查了两个已实施的清单：加拿大自动化决策指令（CDADM）和世界经济论坛的“AI 采购工具箱”（WEF）。我们详细说明了围绕专业知识、风险框架和透明度的三个关键隐患，这些隐患可能会降低针对政府 AI 使用监管的效力，并提出了改进途径。
引用
@article{arxiv.2404.14660,
title = {AI Procurement Checklists: Revisiting Implementation in the Age of AI Governance},
author = {Tom Zick and Mason Kortz and David Eaves and Finale Doshi-Velez},
journal= {arXiv preprint arXiv:2404.14660},
year = {2024}
}