AI韧性差距:将人工智能纳入运营韧性边界内
密码学与安全
2026-07-08 v1
摘要
受监管企业对人工智能的快速采用引发了围绕可信度构建的广泛治理响应:欧盟AI法案、ISO/IEC 42001、NIST AI风险管理框架以及英国基于原则的方法均涉及安全性、公平性、透明度和模型风险。这一响应是必要但不完整的。它本身并未解决运营韧性问题:即在严重但合理的扰动下重要业务服务的连续性、AI组件的可替代性,以及对少数提供前沿模型的企业的依赖集中度。本文认为,AI的采用产生了一项韧性义务,该义务有别于可信AI技术栈且未被其充分覆盖;英国金融监管机构已通过金融政策委员会的系统性分析、关键第三方制度以及2026年5月关于前沿AI与网络韧性的联合声明来弥补这一差距。我们映射了这两种监管逻辑,识别了它们之间的结构性差距,并提出了AI韧性框架:一种与具体制度无关的方法,通过依赖映射、关键性-可替代性分层、将影响容忍度扩展至AI特定故障模式、显式回退原则以及提供商级别的集中度管理,将AI依赖纳入运营韧性边界内。该框架为首席信息安全官、安全架构师和董事会提供了一条从AI治理政策到可证明韧性的可操作路径。这项工作将英国网络韧性监管技术栈的配套分析扩展到了人工智能维度。
引用
@article{arxiv.2607.07359,
title = {The AI Resilience Gap: Bringing Artificial Intelligence Inside the Operational Resilience Perimeter},
author = {Jonathan Shelby},
journal= {arXiv preprint arXiv:2607.07359},
year = {2026}
}
备注
11 pages, 2 Figures, 4 Tables