IGAff: 在深度神经网络上基准测试对抗性迭代与遗传仿射算法
计算机视觉与模式识别
2025-09-09 v1 机器学习
摘要
深度神经网络目前主导人工智能领域的许多方面, 在诸多任务上实现了最先进的结果, 但难以理解且表现出意想不到的弱点。一个活跃的研究领域聚焦于对抗攻击, 旨在生成输入以揭示这些弱点。然而, 这在黑箱场景中尤为具有挑战性, 在该场景中模型细节不可访问。本文详细探讨了这些对抗算法对 ResNet-18、DenseNet-121、Swin Transformer V2 和 Vision Transformer 网络架构的影响。我们利用 Tiny ImageNet、Caltech-256 和 Food-101 数据集, 对两种新型黑箱对抗性算法进行基准测试, 这两种算法均基于仿射变换和遗传算法: 1) 仿射变换攻击 (ATA), 一种迭代算法通过随机仿射变换最大化我们的攻击评分函数; 2) 仿射遗传攻击 (AGA), 一种遗传算法涉及随机噪声和仿射变换。我们评估了模型在算法参数变化、数据增强和全局和有针对性攻击配置下的性能。我们还将我们的算法与两种黑箱对抗性算法 Pixle 和 Square Attack 进行比较。我们的实验在图像分类任务上优于文献中类似方法, 实现了最高可达 8.82% 的准确率提升。我们提供了关于成功对抗防御和攻击的有价值见解, 包括在全局和有针对性水平, 并通过算法参数变化演示了对抗鲁棒性。
引用
@article{arxiv.2509.06459,
title = {IGAff: Benchmarking Adversarial Iterative and Genetic Affine Algorithms on Deep Neural Networks},
author = {Sebastian-Vasile Echim and Andrei-Alexandru Preda and Dumitru-Clementin Cercel and Florin Pop},
journal= {arXiv preprint arXiv:2509.06459},
year = {2025}
}
备注
10 pages, 7 figures, Accepted at ECAI 2025 (28th European Conference on Artificial Intelligence)