社会能力评估框架:测量韧性以指导先进人工智能风险管理
计算机与社会
2025-09-30 v1 人工智能
摘要
先进人工智能系统的风险评估需要同时评估模型本身及其部署环境。我们提出了社会能力评估框架(SCAF),一种基于指标的方法,用于衡量社会在面对人工智能相关风险时的脆弱性、应对能力和适应能力。SCAF 将成熟的韧性分析方法适配到人工智能领域,使组织能够基于国家层面的部署条件洞察来指导风险管理。它还可以帮助利益相关者识别加强社会对新兴人工智能能力准备的机会。通过弥合不同文献之间以及人工智能评估中的"情境差距",SCAF 促进了随着先进人工智能系统在全球范围内普及时更全面的风险评估与治理。
引用
@article{arxiv.2509.22742,
title = {Societal Capacity Assessment Framework: Measuring Resilience to Inform Advanced AI Risk Management},
author = {Milan Gandhi and Peter Cihon and Owen Larter and Rebecca Anselmetti},
journal= {arXiv preprint arXiv:2509.22742},
year = {2025}
}
备注
Workshop on Technical AI Governance (TAIG) at ICML 2025