基于感知的控制系统的攻击：建模与基本极限
系统与控制
2023-08-29 v2 系统与控制
摘要
我们研究了在存在攻击的情况下基于感知的控制系统的性能，并提供了用于建模和分析其对物理与基于感知的传感上隐蔽攻击的弹性的方法。具体而言，我们考虑一个通用设置：一个非线性仿射物理被控对象由基于感知的控制器控制，该控制器将物理（例如 IMU）和感知（例如相机）传感映射到控制输入；系统还配备了一个基于统计或学习的异常检测器（AD）。我们以最一般的形式对攻击进行建模，并引入了独立于所用 AD 的攻击有效性与隐蔽性概念。在此设置下，我们考虑具有不同运行时关于被控对象知识的攻击。我们找到了存在隐蔽有效攻击的充分条件，这些攻击迫使被控对象进入不安全区域且不被任何 AD 检测到。我们表明，随着开环不稳定被控对象动态发散更快且闭环系统更快收敛到平衡点，系统更易受有效隐蔽攻击。此外，根据攻击者可用的运行时信息，若攻击者对被控对象状态的估计任意接近真实状态，则攻击保持隐蔽的概率可任意接近 1；当无法获得被控对象状态的准确估计时，隐蔽性水平取决于无攻击运行下的控制性能。
引用
@article{arxiv.2206.07150,
title = {Attacks on Perception-Based Control Systems: Modeling and Fundamental Limits},
author = {Amir Khazraei and Henry Pfister and Miroslav Pajic},
journal= {arXiv preprint arXiv:2206.07150},
year = {2023}
}