迈向具体且连通的 AI 风险评估（C$^2$AIRA）：一项系统性映射研究
软件工程
2023-05-25 v4
摘要
人工智能（AI）的快速发展引发了人们对其系统负责任地决策与行为的日益担忧。负责任 AI（RAI）指的是开发和使用造福人类、社会与环境，同时将负面后果风险最小化的 AI 系统。为确保负责任 AI，必须识别、评估并缓解与 AI 系统开发和使用相关的风险。近期政府、组织和企业发布了各种 AI 风险评估框架。然而，AI 利益相关者往往难以清晰了解现有框架全貌，并确定为特定情境最适用的框架。此外，还需识别需要进一步研究或开发新框架、以及更新和维护现有框架的领域。为填补此空白，我们对来自产业界、政府和非政府组织（NGOs）的 16 个现有 AI 风险评估框架进行了映射研究。我们识别各框架的关键特征，并从 RAI 原则、利益相关者、系统生命周期阶段、地理位置、目标领域和评估方法方面进行分析。我们的研究提供了对框架现状的全面分析，并凸显了它们之间的趋同与分歧领域。我们还识别了现有框架的不足，并概述了具体且连通的框架 AI 风险评估（CAIRA）框架的本质特征。我们的发现与洞见可帮助相关利益相关者选择合适的 AI 风险评估框架，并引导未来框架设计走向具体性与连通性。
引用
@article{arxiv.2301.11616,
title = {Towards Concrete and Connected AI Risk Assessment (C$^2$AIRA): A Systematic Mapping Study},
author = {Boming Xia and Qinghua Lu and Harsha Perera and Liming Zhu and Zhenchang Xing and Yue Liu and Jon Whittle},
journal= {arXiv preprint arXiv:2301.11616},
year = {2023}
}
备注
[Camera-ready] Accepted by 2nd International Conference on AI Engineering - Software Engineering for AI (CAIN 2023)