提升黑盒对抗攻击的查询效率
机器学习
2020-09-28 v2 机器学习
摘要
深度神经网络（DNNs）在各种任务上展现出了优异的性能，然而它们面临着对抗样本的风险，当攻击者可访问目标模型（白盒设定）时，对抗样本可被轻易生成。由于大量机器学习模型已通过在线服务部署，仅提供来自不可访问模型的查询输出（例如 Google Cloud Vision API），黑盒对抗攻击（目标模型不可访问）在实践中是比白盒攻击更为关键的安全问题。然而，现有的基于查询的黑盒对抗攻击往往需要过量的模型查询以维持较高的攻击成功率。因此，为提升查询效率，本文借助由 Neural Process 刻画的图像结构信息来探索良性输入周围对抗样本的分布，并提出一种基于 Neural Process 的黑盒对抗攻击（NP-Attack）。大量实验表明，NP-Attack 能在黑盒设定下大幅减少查询次数。
引用
@article{arxiv.2009.11508,
title = {Improving Query Efficiency of Black-box Adversarial Attack},
author = {Yang Bai and Yuyuan Zeng and Yong Jiang and Yisen Wang and Shu-Tao Xia and Weiwei Guo},
journal= {arXiv preprint arXiv:2009.11508},
year = {2020}
}
备注
Accepted to ECCV2020