美国联邦政府中的负责任人工智能(RAI):原则、政策与实践
计算机与社会
2025-02-07 v1
摘要
人工智能(AI)和机器学习(ML)在过去几十年中取得了巨大进步。从简单的推荐系统到更复杂的肿瘤识别系统,AI/ML系统已被应用于众多领域。AI/ML的快速增长及其在众多私营和公共部门应用中的普及,虽然取得了成功,但也给监管机构带来了新的挑战和障碍。对于一些新的决策型AI/ML系统,几乎不需要或完全不需要人类参与,因此现在迫切需要确保这些系统的负责任使用。特别是在联邦政府的用例中,AI技术的使用必须通过适当的透明度和问责机制进行审慎治理。这催生了新的跨学科AI研究领域,如负责任人工智能(RAI)。在这篇立场论文中,我们简要概述了RAI的发展,并讨论了该领域通常探讨的一些激励性原则。本文还概述了当前与AI相关的监管格局,并分析了不同的行政命令、政策和框架。随后,我们举例说明了联邦机构如何致力于负责任地使用AI,特别是我们展示了人口普查局在实施负责任AI使用方面的不同项目和研究用例。我们还简要概述了一个正在开发中的负责任人工智能评估工具包,旨在帮助联邦机构将RAI原则付诸实践。最后,本文对不同政策/法规如何映射到RAI原则,以及联邦政府内部负责任AI的监管/治理所面临的挑战与机遇进行了深入讨论。
引用
@article{arxiv.2502.03470,
title = {Responsible Artificial Intelligence (RAI) in U.S. Federal Government : Principles, Policies, and Practices},
author = {Atul Rawal and Katie Johnson and Curtis Mitchell and Michael Walton and Diamond Nwankwo},
journal= {arXiv preprint arXiv:2502.03470},
year = {2025}
}
备注
Presented at the 2nd Workshop on Regulatable ML at NeurIPS 2024