面向高风险AI系统的运营级AI部署保障：阈值敏感部署条件下的治理状态编排——一个治理框架

AI治理框架日益强调高风险领域中的公平性、透明度、问责制和生命周期风险管理。然而，许多当前方法仍停留在观察层面，依赖于静态指标报告、事后审计和监控仪表板，而没有直接管理部署就绪性、补救进展、升级状态或保障驱动的部署控制。本文介绍了运营级AI部署保障(OADA)，这是一个治理框架，用于将公平性分歧、子群不稳定性、阈值敏感性、补救结果和运营不确定性转化为面向部署的保障决策。基于先前关于公平性分歧指数(FDI)和FairRisk-FDI的工作，OADA将治理不确定性重新定义为AI部署管道中的运营问题，而非指标分歧的副产品。该框架引入了部署保障分数、部署就绪性分类、阈值稳定区、治理升级状态和补救感知的保障进展。这些构造通过将评估输出与部署状态解释、重新评估、升级和运营控制相连接，支持高风险环境中的生命周期导向治理决策。通过在面部识别系统上进行面向部署的评估，并将讨论扩展到作为代表性高风险领域的医疗AI，本文展示了系统在孤立的公平性或性能指标下可能看起来可接受，同时仍表现出影响部署就绪性的不稳定性。所提出的框架将运营部署保障定位为评估与现实世界AI部署之间的治理层。