面向深度神经网络的高效查询元攻击
计算机视觉与模式识别
2020-02-18 v3
摘要
黑盒攻击方法旨在仅利用目标DNN模型的输出反馈及相应输入查询来推断合适的攻击模式。然而，由于缺乏先验知识且在利用查询与反馈信息上效率低下，现有方法在获取有效攻击模式时大多需要大量查询。本工作中，我们提出一种元攻击方法，能够以少得多的查询攻击目标模型。其高查询效率源于在元学习方法中有效利用从先前观测到的攻击模式中学习可泛化先验抽象，并借助该先验仅从少量查询与输出推断攻击模式。在MNIST、CIFAR10与tiny-Imagenet上的大量实验表明，我们的元攻击方法能在不牺牲攻击性能的前提下显著减少模型查询次数。此外，所获得的元攻击器不局限于特定模型，而是可轻松用于以快速适应能力攻击多种模型。我们的代码可在 https://github.com/dydjw9/MetaAttack_ICLR2020/ 获取。
引用
@article{arxiv.1906.02398,
title = {Query-efficient Meta Attack to Deep Neural Networks},
author = {Jiawei Du and Hu Zhang and Joey Tianyi Zhou and Yi Yang and Jiashi Feng},
journal= {arXiv preprint arXiv:1906.02398},
year = {2020}
}