Mosaic：面向 AI 赋能信息物理系统的基于模型的安全分析框架
软件工程
2023-05-09 v1
摘要
信息物理系统（CPSs）如今已广泛部署于制造系统、自动驾驶车辆等诸多工业领域。为进一步提升 CPSs 的能力与适用性，近来学术界与工业界出现一股利用基于学习的 AI 控制器进行系统控制的趋势，由此催生出一类新兴的 AI 赋能信息物理系统（AI-CPSs）。尽管此类 AI-CPSs 从若干关键工业需求指标来看可实现明显的性能提升，但由于其随机探索特性及缺乏对其行为的系统性解释，这类基于 AI 的技术也为受控系统带来不确定性与安全风险，迫切需要对 AI-CPSs 行之有效的全安分析技术。为此，本文提出 Mosaic，一个面向 AI-CPSs 的基于模型的安全分析框架。Mosaic 首先构建马尔可夫决策过程（MDP）模型作为 AI-CPS 的抽象模型，以刻画原 AI-CPS 的行为。继而基于所得抽象模型，从两方面设计安全分析：在线安全监控与离线模型引导的伪证（falsification）。Mosaic 的实用性在多样且具有代表性的工业级 AI-CPSs 上得到评估，结果证明 Mosaic 能有效提供 AI-CPSs 的安全监控，并优于最先进的 falsification 技术，为 AI-CPSs 的进阶安全分析奠定基础。
引用
@article{arxiv.2305.03882,
title = {Mosaic: Model-based Safety Analysis Framework for AI-enabled Cyber-Physical Systems},
author = {Xuan Xie and Jiayang Song and Zhehua Zhou and Fuyuan Zhang and Lei Ma},
journal= {arXiv preprint arXiv:2305.03882},
year = {2023}
}