AI Harmonics：一种以人为中心且危害严重程度自适应的 AI 风险评估框架
人工智能
2025-09-15 v1 统计方法学
摘要
人工智能（AI）的绝对主导地位带来了前所未有的社会危害与风险。现有的 AI 风险评估模型侧重于内部合规，往往忽视了多元利益相关者的视角与现实世界后果。我们提出向以人为中心、危害严重程度自适应的方法进行范式转变，该方法以经验性事件数据为基础。我们提出 AI Harmonics，其中包含一种新颖的 AI 危害评估指标（AIH），该指标利用序数严重性数据来捕捉相对影响，而无需精确的数值估计。AI Harmonics 将稳健且通用的方法论与数据驱动、感知利益相关者的框架相结合，用于探索和优先排序 AI 危害。在标注事件数据上的实验证实，政治危害和物理危害表现出最高的集中度，因此亟需缓解：政治危害侵蚀公众信任，而物理危害构成严重甚至危及生命的风险，凸显了我们方法的现实相关性。最后，我们证明 AI Harmonics 能够持续识别不均匀的危害分布，使政策制定者和组织能够有效地针对其缓解工作。
引用
@article{arxiv.2509.10104,
title = {AI Harmonics: a human-centric and harms severity-adaptive AI risk assessment framework},
author = {Sofia Vei and Paolo Giudici and Pavlos Sermpezis and Athena Vakali and Adelaide Emma Bernardelli},
journal= {arXiv preprint arXiv:2509.10104},
year = {2025}
}