AI 风险图谱：导航 AI 风险与资源的分类体系及工具
计算机与社会
2025-07-10 v2 人机交互
摘要
生成式 AI 的快速演进扩大了与 AI 系统相关的风险广度。尽管存在各种用于分类这些风险的分类体系与框架，但它们之间缺乏互操作性，这给试图实施 AI 治理的研究人员、从业者与政策制定者带来了挑战。为了填补这一空白，我们引入了 AI 风险图谱，这是一种结构化的分类体系，整合了来自不同来源的 AI 风险，并将其与治理框架相对齐。此外，我们提出了风险图谱枢纽，这是一套开源工具集，旨在弥合风险定义、基准测试、数据集与缓解策略之间的鸿沟。这种知识驱动的方法利用本体与知识图谱来促进风险识别、优先级排序与缓解。通过整合 AI 辅助的合规工作流与自动化策略，我们的框架降低了负责任地采用 AI 的门槛。我们邀请更广泛的研究与开源社区为这一不断发展的倡议做出贡献，促进跨领域协作，并确保 AI 治理跟上技术进步的步伐。
引用
@article{arxiv.2503.05780,
title = {AI Risk Atlas: Taxonomy and Tooling for Navigating AI Risks and Resources},
author = {Frank Bagehorn and Kristina Brimijoin and Elizabeth M. Daly and Jessica He and Michael Hind and Luis Garces-Erice and Christopher Giblin and Ioana Giurgiu and Jacquelyn Martino and Rahul Nair and David Piorkowski and Ambrish Rawat and John Richards and Sean Rooney and Dhaval Salwala and Seshu Tirupathi and Peter Urbanetz and Kush R. Varshney and Inge Vejsbjerg and Mira L. Wolf-Bauwens},
journal= {arXiv preprint arXiv:2503.05780},
year = {2025}
}
备注
4.5 page main text, 22 page supporting material, 2 figures