面向网络-物理系统的数据驱动伪造方法
密码学与安全
2025-05-08 v1 人工智能
摘要
网络-物理系统(CPS)在医疗保健、航空 avionics 和自动驾驶汽车等安全关键领域广泛存在。因此，对其操作安全进行形式化验证至关重要。在本文中，我们聚焦于伪造问题，即关注在系统中寻找不安全执行，而非证明其不存在。本文的贡献在于提出了一种框架：(a) 将CPS的伪造与深度神经网络(DNN)的伪造相连接；(b) 利用决策树内在可解释性以更快地伪造CPS。这通过以下步骤实现：(1) 构建待测试CPS的代理模型，作为DNN模型或决策树；(2) 应用各种DNN伪造工具伪造CPS；(3) 采用从决策树提取的CPS模型安全违规解释指导的新型伪造算法。该框架有望利用一套用于伪造DNN鲁棒性属性的\emph{对抗攻击}算法，以及DNN的最先进伪造算法。尽管所述方法适用于一般可执行/模拟的系统，但我们特别是在CPS方面展示了其有效性。我们表明，作为工具\textsc{FlexiFal}实现的框架能够检测线性和非线性动力学的CPS中难以发现的反例。决策树导向的伪造在ARCH-COMP 2024伪造基准\cite{khandait2024arch}中高效地找到多个反例方面显示出有前景的成果。
引用
@article{arxiv.2505.03863,
title = {Data-Driven Falsification of Cyber-Physical Systems},
author = {Atanu Kundu and Sauvik Gon and Rajarshi Ray},
journal= {arXiv preprint arXiv:2505.03863},
year = {2025}
}