“人在回路中的团队”：基于奥斯特罗姆IAD框架“使用中的规则”映射与度量AI的情境影响
计算机与社会
2024-07-02 v2 人工智能
人机交互
摘要
本文探讨了如何将奥斯特罗姆制度分析与发展框架（IAD）中的“使用中的规则”发展为一种针对AI的情境分析方法。AI风险评估框架日益强调理解现有情境的必要性。然而，这些方法鲜少与既有的制度分析学术相衔接。我们勾勒了一个通过高层示例说明的新方向，以理解临床监督如何受到AI的潜在影响。当前许多关于AI监督的思考围绕决策者在回路中、从而具备干预以防止危害的能力这一理念展开。但我们的分析发现，监督是复杂的，常由专业团队作出，并依赖解释来获取信息。专业团体与责任机制亦作为多中心监督的制度而发挥作用。这些都受到AI系统监督挑战的影响。所勾勒的方法有潜力作为与美国国家标准与技术研究院（NIST）AI风险管理框架“治理与映射”功能相一致的情境分析政策工具；然而，仍需进一步的实证研究。我们的分析说明了既有制度分析方法在凸显监督中团队结构、进而在“人在回路”概念中的益处。
引用
@article{arxiv.2303.14007,
title = {'Team-in-the-loop': Ostrom's IAD framework 'rules in use' to map and measure contextual impacts of AI},
author = {Deborah Morgan and Youmna Hashem and John Francis and Saba Esnaashari and Vincent J. Straub and Jonathan Bright},
journal= {arXiv preprint arXiv:2303.14007},
year = {2024}
}
备注
19 pages