面向物联网系统中深度神经网络鲁棒性高效评估：一种基于 GAN 的方法
机器学习
2021-11-22 v1
摘要
基于深度神经网络（DNNs）的智能物联网（IoT）系统已在现实世界中广泛部署。然而，DNNs 被发现易受对抗样本攻击，这引发了人们对智能物联网系统可靠性和安全性的担忧。对物联网系统的鲁棒性进行测试和评估变得必要且必不可少。近来提出了各种攻击和策略，但效率问题仍未得到妥善解决。现有方法要么计算量大，要么耗时，不适用于实际场景。在本文中，我们提出一种称为 Attack-Inspired GAN（AI-GAN）的新框架，以条件方式生成对抗样本。一旦训练完成，给定输入图像和目标类别，它便能高效生成对抗扰动。我们将 AI-GAN 应用于白盒设定、黑盒设定以及受最先进防御保护的目标模型上的不同数据集。通过大量实验，AI-GAN 实现了高攻击成功率，优于现有方法，并显著减少了生成时间。此外，AI-GAN 首次成功扩展到复杂数据集（如 CIFAR-100 和 ImageNet），在所有类别中达到约 的成功率。
引用
@article{arxiv.2111.10055,
title = {Towards Efficiently Evaluating the Robustness of Deep Neural Networks in IoT Systems: A GAN-based Method},
author = {Tao Bai and Jun Zhao and Jinlin Zhu and Shoudong Han and Jiefeng Chen and Bo Li and Alex Kot},
journal= {arXiv preprint arXiv:2111.10055},
year = {2021}
}
备注
arXiv admin note: text overlap with arXiv:2002.02196