利用优化飞行对抗补丁劫持基于深度学习的多旋翼
机器人学
2023-10-24 v2 人工智能
密码学与安全
摘要
自主飞行机器人（如多旋翼）常依赖深度学习模型基于相机图像进行预测，例如位姿估计。这些模型若应用于训练域之外的输入图像，可能给出令人惊讶的预测结果。该缺陷可被对抗攻击利用，例如通过计算可置于环境中以操纵神经网络预测的小图像（即对抗补丁）。我们提出飞行对抗补丁，将多张图像挂载于至少一个其他飞行机器人上，从而可置于受害多旋翼视场中任意位置。通过引入攻击机器人，系统扩展为对抗多机器人系统。为实施有效攻击，我们比较了三种同时优化多个对抗补丁及其在输入图像中位置的方法。我们表明所提方法随对抗补丁数量具有良好的扩展性。此外，我们展示了双机器人实物飞行，其中采用一种新颖的攻击策略，利用计算得到的对抗补丁劫持本应跟随人的机器人。
引用
@article{arxiv.2308.00344,
title = {Kidnapping Deep Learning-based Multirotors using Optimized Flying Adversarial Patches},
author = {Pia Hanfeld and Khaled Wahba and Marina M. -C. Höhne and Michael Bussmann and Wolfgang Hönig},
journal= {arXiv preprint arXiv:2308.00344},
year = {2023}
}
备注
Accepted at MRS 2023, 7 pages, 5 figures. arXiv admin note: substantial text overlap with arXiv:2305.12859