基于生物启发的深度神经网络对抗攻击
密码学与安全
2021-07-08 v1 机器学习
摘要
本文基于将生物启发设计应用于运动物理对象，开发了一种针对深度神经网络（DNN）的新对抗攻击。据我们所知，这是首项引入带运动物体的物理攻击的工作。不同于现有文献中占主导的攻击策略（即对数字输入或静止物理对象引入微小扰动），我们在本文中展示了两种新的成功攻击策略。我们表明，通过将若干图案叠加到一个物理对象上，DNN 会陷入混淆并选取其中某一图案来赋予类别标签。我们使用三个扑翼机器人的实验证明了开发对抗伪装以致使 DNN 产生定向错误的可能性。我们还表明，某些运动可降低视频中连续帧之间的依赖性，并使目标检测器“失明”，即无法检测视频中存在的物体。因此在针对 DNN 的成功物理攻击中，也应考虑针对系统的定向运动。
引用
@article{arxiv.2107.02895,
title = {Bio-Inspired Adversarial Attack Against Deep Neural Networks},
author = {Bowei Xi and Yujie Chen and Fan Fei and Zhan Tu and Xinyan Deng},
journal= {arXiv preprint arXiv:2107.02895},
year = {2021}
}
备注
Published in SafeAI 2020