多变量 AI 风险的统计情景建模与类似分布
人工智能
2025-03-11 v2
摘要
评估 AI 安全需要统计严谨的方法和风险指标来理解 AI 的使用如何影响聚合风险。然而， much AI 安全文献聚焦于 AI 模型孤立产生的风险，缺乏对模块化 AI 用法如何影响工作流程组件或整体风险指标的考虑。也缺乏统计基础使风险模型在 AI absent 时进行风险建模以估计 AI 的因果贡献。这部分是由于 AI 影响数据稀缺导致无法拟合分布。本文通过两种方式弥补这些差距。首先，我们演示情景建模（基于马尔可夫链、copula 和蒙特卡洛模拟等既有统计技术）如何全面建模 AI 风险。其次，我们展示如何从类似 AI 的现象中获取类似分布，以在缺乏直接可观测数据时估计 AI 影响。我们演示了这些方法在对 logistic 情景仿真进行风险分析时对累积 AI 风险进行基准测试的实用性。
引用
@article{arxiv.2502.14491,
title = {Statistical Scenario Modelling and Lookalike Distributions for Multi-Variate AI Risk},
author = {Elija Perrier},
journal= {arXiv preprint arXiv:2502.14491},
year = {2025}
}
备注
Under review