面向含机器学习组件控制系统的灰盒对抗测试
机器学习
2019-01-01 v1 机器学习
摘要
神经网络(NN)在过去被提出作为对具有极复杂动力学系统进行建模与控制的有效手段。然而,尽管研究广泛,基于 NN 的控制器尚未被工业界采用于安全关键系统。其主要原因是带有学习型控制器的系统极难测试与验证。对此类系统针对系统级规范进行分析则更为困难。本文提供一种基于梯度的方法,用于搜索闭环控制系统的输入空间,以寻找违背某些系统级需求的对抗样本。实验结果表明,结合随机搜索,我们的方法优于模拟退火(Simulated Annealing)优化。
引用
@article{arxiv.1812.11958,
title = {Gray-box Adversarial Testing for Control Systems with Machine Learning Component},
author = {Shakiba Yaghoubi and Georgios Fainekos},
journal= {arXiv preprint arXiv:1812.11958},
year = {2019}
}
备注
11 pages, 5 figures, 1 table, International Conference on Hybrid Systems: Computation and Control (HSSC) 2019, Montreal, Canada