AI 风险分类解码 (AIR 2024)：从政府法规到企业政策
计算机与社会
2024-06-27 v1 人工智能
摘要
我们提出了一个全面的 AI 风险分类体系，该体系源自欧盟、美国和中国的八项政府政策以及全球 16 家公司的政策，为建立统一的生成式 AI 安全评估语言迈出了重要一步。我们识别出 314 个独特的风险类别，并将其组织成一个四层分类体系。在最高层，该分类体系涵盖系统与操作风险、内容安全风险、社会风险以及法律与权利风险。该分类体系建立了对各种风险描述和方法之间的联系，突出了公共和私营部门风险概念之间的重叠与差异。通过提供这一统一框架，我们旨在通过跨部门的信息共享和推广生成式 AI 模型与系统风险缓解的最佳实践，来推进 AI 安全。
引用
@article{arxiv.2406.17864,
title = {AI Risk Categorization Decoded (AIR 2024): From Government Regulations to Corporate Policies},
author = {Yi Zeng and Kevin Klyman and Andy Zhou and Yu Yang and Minzhou Pan and Ruoxi Jia and Dawn Song and Percy Liang and Bo Li},
journal= {arXiv preprint arXiv:2406.17864},
year = {2024}
}