随机信息物理系统中用于沙箱化（基于 AI 的）未验证控制器的安全视导架构
系统与控制
2021-10-28 v2 系统与控制
摘要
高性能但未经验证的控制器，例如基于人工智能（亦称 AI-based）的控制器，被广泛用于信息物理系统（CPSs）中以完成复杂控制任务。然而，保证采用此类控制器的 CPSs 的安全性与可靠性目前极具挑战性，而在许多现实安全关键应用中这至关重要。为应对该困难，我们在本工作中提出了一种 Safe-visor 架构，用于在噪声环境（即随机 CPSs）中运行的 CPSs 里沙箱化未验证控制器。所提架构包含一个基于历史的监督器，其检查来自未验证控制器的输入并在系统功能性与安全性之间做出折中，以及一个安全顾问，在未验证控制器危及系统安全时提供回退。基于历史监督器与安全顾问均依据原系统与其有限抽象之间的近似概率关系设计。通过采用该架构，我们提供了关于保持由确定性有限自动机（DFA）接受语言所表达的安全规范的形式化概率保证。同时，即便未验证控制器不可靠，仍可在控制回路中使用。我们通过将其应用于两个（物理）案例研究证明了所提结果的有效性。
引用
@article{arxiv.2102.05490,
title = {Safe-visor Architecture for Sandboxing (AI-based) Unverified Controllers in Stochastic Cyber-Physical Systems},
author = {Bingzhuo Zhong and Abolfazl Lavaei and Hongpeng Cao and Majid Zamani and Marco Caccamo},
journal= {arXiv preprint arXiv:2102.05490},
year = {2021}
}