在 ViT 上探索对抗基于查询的黑盒攻击的非加性随机性
计算机视觉与模式识别
2023-09-13 v1
摘要
深度神经网络很容易被微小且不可察觉的扰动所欺骗。基于查询的黑盒攻击（QBBA）能够利用图像查询的模型输出概率来产生扰动，而无需访问底层模型。QBBA 对现实世界应用构成了真实威胁。近来，人们探索了各类鲁棒性以防御 QBBA。在本工作中，我们首先对针对 QBBA 的随机防御策略进行了分类。遵循我们的分类，我们提出探索模型中的非加性随机性以防御 QBBA。具体而言，我们聚焦于基于其灵活架构而未被充分探索的 Vision Transformers。大量实验表明，所提出的防御方法实现了有效防御，且在性能上牺牲不大。
引用
@article{arxiv.2309.06438,
title = {Exploring Non-additive Randomness on ViT against Query-Based Black-Box Attacks},
author = {Jindong Gu and Fangyun Wei and Philip Torr and Han Hu},
journal= {arXiv preprint arXiv:2309.06438},
year = {2023}
}
备注
Accepted to BMVC2023