迈向迁移对抗攻击评估的良好实践
密码学与安全
2023-10-31 v3 计算机视觉与模式识别
机器学习
摘要
迁移对抗攻击在现实世界的黑盒场景中引发关键安全担忧。然而，由于现有评估中两个常见局限，该领域的实际进展难以评估。首先，不同方法常未在逐一对比中得到系统且公平的评估。其次，仅评估了可迁移性，而另一关键攻击属性——隐蔽性——在很大程度上被忽视。本工作中，我们设计良好实践以解决这些局限，并呈现首个针对 ImageNet 上 9 种防御的 23 种代表性攻击的迁移攻击综合评估。特别地，我们提出将现有攻击归为五类，从而实现我们系统的按类分析。这些分析得出甚至挑战既有知识的新发现，并有助于为我们的按攻击综合评估确定最优攻击超参数。我们还通过采用多样不可感知性度量和考察新的更细粒度特征，特别关注隐蔽性。总体而言，我们对可迁移性与隐蔽性的新见解为未来评估提供了可操作的良好实践。
引用
@article{arxiv.2211.09565,
title = {Towards Good Practices in Evaluating Transfer Adversarial Attacks},
author = {Zhengyu Zhao and Hanwei Zhang and Renjue Li and Ronan Sicre and Laurent Amsaleg and Michael Backes},
journal= {arXiv preprint arXiv:2211.09565},
year = {2023}
}
备注
An extended version can be found at arXiv:2310.11850. Code and a list of categorized attacks are available at https://github.com/ZhengyuZhao/TransferAttackEval