飞行对抗补丁:操控基于深度学习的自主多旋翼行为
机器人学
2023-08-01 v2 人工智能
密码学与安全
摘要
自主飞行机器人(如多旋翼)通常依赖神经网络基于相机图像进行预测。这些深度学习(DL)模型若应用于训练域之外的输入图像,会产生令人意外的结果。对抗攻击利用这一缺陷,例如通过计算小图像(即所谓对抗补丁)放置于环境中以操控神经网络的预测。我们提出飞行对抗补丁,将图像挂载于另一飞行机器人上,从而可置于受害多旋翼视场中任意位置。为实施有效攻击,我们比较了三种同时优化对抗补丁及其在输入图像中位置的方法。我们在一个公开的自主多旋翼 DL 模型与数据集上进行了实证验证。最终,我们的攻击多旋翼将能够完全控制受害多旋翼的运动。
引用
@article{arxiv.2305.12859,
title = {Flying Adversarial Patches: Manipulating the Behavior of Deep Learning-based Autonomous Multirotors},
author = {Pia Hanfeld and Marina M. -C. Höhne and Michael Bussmann and Wolfgang Hönig},
journal= {arXiv preprint arXiv:2305.12859},
year = {2023}
}
备注
6 pages, 5 figures, Workshop on Multi-Robot Learning, International Conference on Robotics and Automation (ICRA)