通用人工智能引发的系统性风险分类法

通过对学术文献的系统性回顾，我们提出了一种与人工智能（AI），特别是通用人工智能相关的系统性风险分类法。遵循欧盟《人工智能法案》的定义，我们将系统性风险视为可能影响整个社会或经济的大规模威胁。从最初的 1,781 篇文献池中，我们分析了 86 篇入选论文，识别出 13 类系统性风险和 50 个促成来源。我们的发现揭示了一个复杂的潜在威胁图景，范围从环境危害和结构性歧视到治理失灵和失控。系统性风险的关键来源包括知识差距、识别危害的挑战以及人工智能发展的不可预测轨迹。该分类法提供了当前关于系统性风险的学术文献的一个快照。本文通过提供一个结构化的基础，用于理解和应对通用人工智能潜在的大规模负面社会影响，为人工智能安全研究做出了贡献。该分类法可为政策制定者在风险优先级排序和法规制定方面提供参考。