CORTEX：面向运营 AI 系统的风险分级与暴露面组合叠加框架
密码学与安全
2025-08-28 v1 人工智能
摘要
随着人工智能（AI）系统在医疗、金融、教育、司法和基础设施等高风险领域的部署日益增加，这些系统发生故障的可能性与影响已从理论上的可能性显著演变为现实中反复出现的系统性风险。本文介绍了 CORTEX（Composite Overlay for Risk Tiering and Exposure，风险分级与暴露面组合叠加），这是一个用于评估和评分 AI 系统脆弱性的多层风险评分框架。该框架基于对 AI 事件数据库（AI Incident Database, AIID）中记录的 1200 多起事件的经验分析而开发，将故障模式分为 29 个技术脆弱性组。每个脆弱性通过一个五层架构进行评分，该架构结合了：(1) 效用调整的“可能性 × 影响”计算；(2) 与欧盟《人工智能法案》、NIST RMF、OECD 原则等监管框架相一致的治理与情境叠加；(3) 技术暴露面评分，涵盖漂移、可追溯性和对抗风险等暴露向量；(4) 针对这些系统部署环境量身定制的环境与残余修正因子；以及 (5) 通过贝叶斯风险聚合和蒙特卡洛模拟进行的最终分层评估，以建模波动性和长尾风险。所得的综合评分可应用于 AI 风险登记册、模型审计、合规性检查以及动态治理仪表板。
引用
@article{arxiv.2508.19281,
title = {CORTEX: Composite Overlay for Risk Tiering and Exposure in Operational AI Systems},
author = {Aoun E Muhammad and Kin Choong Yow and Jamel Baili and Yongwon Cho and Yunyoung Nam},
journal= {arXiv preprint arXiv:2508.19281},
year = {2025}
}