SADA：面向自主应用的语义对抗诊断攻击
计算机视觉与模式识别
2020-11-30 v3 密码学与安全
机器学习
机器人学
摘要
阻碍深度神经网络（DNNs）更广泛应用的一个主要因素是其缺乏鲁棒性，而这对于自动驾驶等安全关键应用至关重要。这促使近期大量关于DNN对抗攻击的研究，这些研究大多关注缺乏语义意义的像素级扰动。相比之下，我们提出一个针对已训练智能体的通用对抗攻击框架，涵盖对执行任务的智能体环境的语义扰动以及像素级攻击。为此，我们将对抗攻击问题重新表述为学习一个总能愚弄该智能体的参数分布。在语义情形下，我们提出的对手（记为BBGAN）被训练来采样描述黑盒智能体与之交互的环境的参数，使得智能体在此环境中执行其既定任务表现糟糕。我们将BBGAN应用于三个不同任务，主要针对自主导航的各个方面：目标检测、自动驾驶和自主无人机竞速。在这些任务上，BBGAN能生成持续愚弄已训练智能体的失败案例。
引用
@article{arxiv.1812.02132,
title = {SADA: Semantic Adversarial Diagnostic Attacks for Autonomous Applications},
author = {Abdullah Hamdi and Matthias Müller and Bernard Ghanem},
journal= {arXiv preprint arXiv:1812.02132},
year = {2020}
}
备注
Accepted at AAAI'20