论非洲中心主 AI 安全评估的必要性

前沿AI系统正在非洲广泛采用，但大多数AI安全评估设计和验证的环境仍以西方为主。本文我们认为，便携性差距可能导致在物质受限且相互依赖的基础设施中嵌入前沿AI系统时，未能测试非洲中心主的严重危害路径。我们将严重AI风险定义为来自前沿AI系统的物质风险，导致关键伤害，即数千人死亡或经济损失和损害相当于国家GDP的5%。为支持AI安全评估设计，我们发展了一套用于识别非洲中心主严重AI风险的分类法。该分类法将结果阈值与过程路径相关联，将风险建模为危险、脆弱性和暴露性的交集。我们通过放大性和突发性来区分严重风险，其中放大性要求前沿AI是潜在危险放大器，突发性捕捉足以压垮普通应对和治理能力的快速发生性伤害。随后，我们提出了针对非洲语境的威胁建模策略，调查了参考类预测、结构化专家访谈、情景规划和系统理论过程分析，并将其针对资源有限、网络差、技术专长不足、国家能力薄弱和冲突状况进行调整。我们还检查了AI错位风险，得出结论非洲更可能通过分布式迁移暴露普遍性失效模式，而非产生独特的错位路径。最后，我们提供了在资源受限条件下进行评估的实用指导，强调开放且可扩展的工具、分层评估管道以及分享方法和发现以扩大评估范围。