用于控制器验证的对抗扰动生成
机器学习
2022-02-01 v2 系统与控制
系统与控制
最优化与控制
机器学习
摘要
我们考虑在仅能黑盒访问给定控制器的情况下，为其生成最大对抗扰动的问题。我们提出一种在线学习方法来解决该问题，该方法基于控制器所选的控制输入\emph{自适应}地生成扰动。扰动生成器的目标是最小化相对于基准扰动生成策略类的\emph{遗憾}，即尽可能最大化控制器所产生的代价，以与\emph{事后}最佳可能的扰动生成器（从基准策略类中选出）相比。在动力学为线性且代价为二次型的设定下，我们将问题表述为带记忆的在线信任域（OTR）问题，并针对该问题提出一种新的在线学习算法（\emph{MOTR}）。我们证明该方法能与事后最佳扰动生成器竞争（从包含线性动态扰动生成策略的丰富基准策略类中选出）。我们在两个仿真示例上展示了我们的方法：（i）合成生成的线性系统，以及（ii）在 AirSim 仿真器中为流行的 PX4 控制器生成风扰动。在这些示例中，我们表明我们的方法优于几种基线方法，包括 扰动生成和基于梯度的方法。
引用
@article{arxiv.2012.06695,
title = {Generating Adversarial Disturbances for Controller Verification},
author = {Udaya Ghai and David Snyder and Anirudha Majumdar and Elad Hazan},
journal= {arXiv preprint arXiv:2012.06695},
year = {2022}
}