三角攻击：一种查询高效的基于决策的对抗攻击
计算机视觉与模式识别
2022-07-22 v3
摘要
基于决策的攻击对现实应用构成严重威胁，因其将目标模型视为黑盒且仅访问硬预测标签。近来已作出大量努力以降低查询次数；然而，现有基于决策的攻击仍需数千次查询才能生成高质量的对抗样本。本工作中，我们发现对于任意迭代攻击，一个良性样本、当前与下一个对抗样本可在子空间中自然构成一个三角形。基于正弦定理，我们提出一种新颖的三角攻击（TA），利用任意三角形中大角对长边的几何信息来优化扰动。然而，直接将此类信息应用于输入图像是无效的，因其无法在高维空间中充分探索输入样本的邻域。为解决该问题，TA因该几何性质的普适性而在低频空间中优化扰动以实现有效降维。在ImageNet数据集上的大量评估表明，与现有基于决策的攻击相比，TA在1,000次查询内实现了更高的攻击成功率，且在各种扰动预算下达到相同攻击成功率所需查询数更少。凭借如此高的效率，我们进一步在真实世界API即腾讯云API上验证了TA的适用性。
引用
@article{arxiv.2112.06569,
title = {Triangle Attack: A Query-efficient Decision-based Adversarial Attack},
author = {Xiaosen Wang and Zeliang Zhang and Kangheng Tong and Dihong Gong and Kun He and Zhifeng Li and Wei Liu},
journal= {arXiv preprint arXiv:2112.06569},
year = {2022}
}
备注
Accepted by ECCV 2022, code is available at https://github.com/xiaosen-wang/TA