利用正交投影梯度下降规避对抗样本检测防御
机器学习
2021-06-30 v1 密码学与安全
摘要
规避对抗样本检测防御需要找到同时满足以下条件的对抗样本：(a) 被模型误分类，且 (b) 被检测为非对抗样本。我们发现，现有试图满足多个同时约束的攻击方法常常过度优化某一约束而以牺牲另一约束的满足为代价。我们提出了正交投影梯度下降（Orthogonal Projected Gradient Descent），一种改进的攻击技术，通过在运行标准基于梯度的攻击时对梯度进行正交化来生成避免此问题的对抗样本。我们利用该技术规避了四种最先进的检测防御，将其准确率降至 0%，同时保持 0% 的检测率。
引用
@article{arxiv.2106.15023,
title = {Evading Adversarial Example Detection Defenses with Orthogonal Projected Gradient Descent},
author = {Oliver Bryniarski and Nabeel Hingun and Pedro Pachuca and Vincent Wang and Nicholas Carlini},
journal= {arXiv preprint arXiv:2106.15023},
year = {2021}
}