从线性风险到涌现危害：复杂性作为 AI 治理缺失的核心
计算机与社会
2025-12-16 v1
摘要
基于风险的 AI 监管已成为 AI 治理中的主导范式，承诺提供与预期危害相称的控制措施。本文论证了此类框架通常因结构性原因而失效：它们隐含地假设线性因果关系、稳定的系统边界以及对监管的可预测响应。在实践中，AI 在复杂的社会技术自适应系统中运行，其中危害通常是涌现的、延迟的、重新分配的，并通过反馈循环和系统参与者的策略适应而被放大。因此，合规性可能增加，而危害却被转移或隐藏而非消除。我们提出了一种基于复杂性的 AI 治理框架，将监管视为干预而非控制，优先考虑动态系统映射而非静态分类，并整合因果推理和仿真以用于不确定性下的政策设计。其目的不是消除不确定性，而是通过监测、学习和治理干预的迭代修订来实现稳健的系统管理。
引用
@article{arxiv.2512.12707,
title = {From Linear Risk to Emergent Harm: Complexity as the Missing Core of AI Governance},
author = {Hugo Roger Paz},
journal= {arXiv preprint arXiv:2512.12707},
year = {2025}
}
备注
White Paper / Policy Brief (Working Paper). Published version available at: https://doi.org/10.5281/zenodo.17929014