基于少量查询的梯度对齐攻击
计算机视觉与模式识别
2023-05-04 v2 人工智能
摘要
黑盒查询攻击仅依赖受害模型的输出，已被证明在攻击深度学习模型方面行之有效。然而，现有的黑盒查询攻击在仅允许少量查询的新场景下表现不佳。为解决该问题，我们提出了梯度对齐攻击（GAA），其在替代模型上使用我们设计的梯度对齐损失（GAL）来估计准确梯度，以提升对受害模型的攻击性能。具体而言，我们提出了一种梯度对齐机制，以确保损失函数关于 logit 向量的导数在替代模型与受害模型之间具有相同的权重系数。利用该机制，我们将交叉熵（CE）损失和间隔损失转化为梯度对齐形式，即梯度对齐 CE 或间隔损失。这些损失不仅在我们提出的新场景下提升了梯度对齐攻击的攻击性能，还提高了现有黑盒查询攻击的查询效率。通过在 ImageNet 数据库上的理论与实证分析，我们证明了梯度对齐机制的有效性，并且与四种最新的基于可迁移先验的查询攻击相比，我们的梯度对齐攻击在盒约束的 和 范数上分别将新场景下的攻击性能提升了 16.1% 和 31.3%。此外，梯度对齐损失还将这些基于可迁移先验的查询攻击所需的查询次数最多减少了 2.9 倍。总体而言，我们提出的梯度对齐攻击与损失在黑盒查询攻击的攻击性能和查询效率上均展现出显著提升，尤其在仅允许少量查询的场景中。
引用
@article{arxiv.2205.09518,
title = {Gradient Aligned Attacks via a Few Queries},
author = {Xiangyuan Yang and Jie Lin and Hanlin Zhang and Xinyu Yang and Peng Zhao},
journal= {arXiv preprint arXiv:2205.09518},
year = {2023}
}