ReLUSyn:基于深度神经网络的信息物理系统隐蔽攻击合成
系统与控制
2021-05-24 v1 系统与控制
摘要
信息物理系统(CPS)被部署于许多任务关键场景中,如医疗设备、自动驾驶车辆系统与飞机控制管理系统。随着越来越多CPS采用深度神经网络(DNN),这些系统可能易受攻击。已有工作展示了CPS对虚假数据注入攻击(FDIA)的易感性,其可造成显著损害。我们识别出这类系统上的一类新攻击。在本文中,我们证明基于DNN的CPS同样受制于这些攻击。我们将这些攻击称为涟漪虚假数据注入攻击(RFDIA),其利用最小输入扰动来隐蔽地改变DNN输出。输入扰动作为涟漪在多个DNN层中传播,以目标方式影响输出。我们开发了一种自动化技术来合成针对基于DNN的CPS的RFDIA。我们的技术使用混合整数线性规划(MILP)将攻击建模为优化问题。我们定义了基于DNN的CPS的一种抽象,使我们能够自动地:1)识别关键输入,以及2)找到产生输出变化的最小扰动。我们在三个实际CPS及两个任务关键应用上展示了我们的技术:一个人工胰腺系统(APS)与两个飞机控制管理系统(水平防撞系统(HCAS)与避撞系统-Xu(ACAS-XU))。
引用
@article{arxiv.2105.10393,
title = {ReLUSyn: Synthesizing Stealthy Attacks for Deep Neural Network Based Cyber-Physical Systems},
author = {Aarti Kashyap and Syed Mubashir Iqbal and Karthik Pattabiraman and Margo Seltzer},
journal= {arXiv preprint arXiv:2105.10393},
year = {2021}
}