面向系统性、实用性与公平性的基于迁移的攻击评估
机器学习
2023-11-03 v1 密码学与安全
计算机视觉与模式识别
摘要
深度神经网络（DNNs）的对抗脆弱性因这些模型在现实应用中带来的安全风险而备受关注。基于对抗样本的迁移性，越来越多基于迁移的方法被提出以欺骗架构和参数均不可访问的黑盒DNN模型。尽管已付出巨大努力，仍缺乏一个可用于系统性、公平且实用地比较这些方法的标准化基准。我们的研究表明，某些方法的评估需更加合理和全面以验证其有效性，例如避免不公平比较以及对可能的替代/受害模型考虑不足。因此，我们建立了实现30余种方法的基于迁移的攻击基准（TA-Bench）。本文中，我们在ImageNet上的25个流行替代/受害模型上对其进行了综合评估与比较。获得了关于这些方法有效性的新见解，并提供了未来评估的指南。代码见：https://github.com/qizhangli/TA-Bench。
引用
@article{arxiv.2311.01323,
title = {Towards Evaluating Transfer-based Attacks Systematically, Practically, and Fairly},
author = {Qizhang Li and Yiwen Guo and Wangmeng Zuo and Hao Chen},
journal= {arXiv preprint arXiv:2311.01323},
year = {2023}
}
备注
Accepted by NeurIPS 2023