寻找最优切点以减少硬标签攻击的失真
计算机视觉与模式识别
2022-03-01 v5 密码学与安全
摘要
黑盒对抗攻击的一个主要问题是在硬标签攻击设定下的高查询复杂度，其中仅可获得 top-1 预测标签。在本文中，我们提出一种新颖的基于几何的方法称为切线攻击 (TA)，其通过识别位于决策边界上的虚拟半球的最优切点来减少攻击的失真。假设决策边界局部平坦，我们从理论上证明最小 失真可通过在每次迭代中沿穿过该切点的切线到达决策边界而获得。为提高我们方法的鲁棒性，我们进一步提出一种泛化方法，用半椭球替代半球以适应弯曲的决策边界。我们的方法无需预训练。在 ImageNet 和 CIFAR-10 数据集上进行的广泛实验表明，我们的方法仅需少量查询即可实现低幅值失真。实现源代码已发布于 https://github.com/machanic/TangentAttack。
引用
@article{arxiv.2111.07492,
title = {Finding Optimal Tangent Points for Reducing Distortions of Hard-label Attacks},
author = {Chen Ma and Xiangyu Guo and Li Chen and Jun-Hai Yong and Yisen Wang},
journal= {arXiv preprint arXiv:2111.07492},
year = {2022}
}
备注
Accepted at NeurIPS 2021. The missing square term in Eqn.(13), as well as many other mistakes of the previous version, have been fixed in the current version