调查算法审查委员会以实现组织负责任的人工智能治理
计算机与社会
2024-02-06 v1 人工智能
摘要
包括公司、非营利组织、政府和学术机构在内的组织正越来越多地开发、部署和利用人工智能 (AI) 工具。组织层面的负责任人工智能 (RAI) 治理方法已成为解决潜在 AI 风险和危害的重要机制。在本研究中，我们采访了来自不同组织类型（学术、政府、行业、非营利）和部门（金融、健康、科技、其他）的 17 名技术贡献者，了解他们在内部 RAI 治理方面的经验。我们的研究结果阐明了 RAI 的各种组织定义及伴随的内部治理方法。我们总结了关于算法审查委员会 (ARBs) 及类似审查委员会在实践中（包括其成员构成、范围和成功衡量标准）的首批详细发现。我们证实了金融行业已知的稳健模型治理，并揭示了健康行业中广泛的算法和 AI 治理以及类 ARB 的审查委员会。我们的发现反驳了仅靠机构审查委员会就足以进行算法治理的观点，并提出 ARBs 是更具影响力的内部 RAI 治理方法之一。我们的结果表明，与现有内部监管方法的整合以及领导层的支持是成功最重要的属性，而财务紧张是有效组织 RAI 的最大挑战。我们就组织合作伙伴在构建自己的内部 RAI 框架时如何从这些发现中汲取经验提出了多种建议。我们概述了开发和衡量 ARBs 及其他内部 RAI 治理方法有效性的未来方向。
引用
@article{arxiv.2402.01691,
title = {Investigating Algorithm Review Boards for Organizational Responsible Artificial Intelligence Governance},
author = {Emily Hadley and Alan Blatecky and Megan Comfort},
journal= {arXiv preprint arXiv:2402.01691},
year = {2024}
}