面向 AI 事件监控的实用主义分类框架
计算机与社会
2026-05-08 v2
摘要
事件监控可驱动高可靠性行业和大规模人口技术中的安全改进，但在 AI 治理领域仍不够发达。公共数据库 catalog 了数千起 AI 事件，但简单的事件计数会混合媒体报道倾向、系统部署（"exposure"）以及单位部署下的伤害频率。我们提出一种方法论框架，考虑这些因素并校准对分析 AI 事件随时间变化时所需证据的置信度。该框架包含三个组成部分：定义分析范围的结构化监控问题；分层估计过程，单独推导伤害和暴露趋势，包括通过 LLM 辅助过滤公共事件数据库；将结果趋势估计映射到可操作治理类别（Escalating、Mitigating、Concentrating、Receding 或 Unclassifiable）的分类方案。通过案例研究，我们检验框架的澄清作用与局限性，展示尽管面临现实数据约束仍能提供治理见解，并为 AI 事件监控作为实用治理工具提供概念验证。
引用
@article{arxiv.2604.21412,
title = {A pragmatic classification framework for AI incident monitoring},
author = {Isaak Mengesha and Branwen Owen and Charlie Collins and Tina Wong and Simon Mylius and Peter Slattery and Sean McGregor},
journal= {arXiv preprint arXiv:2604.21412},
year = {2026}
}