以梯度错位演化架构以实现低对抗可迁移性
计算机视觉与模式识别
2021-09-14 v1 神经与进化计算
摘要
众所周知，深度神经网络图像分类器不仅容易受到为其生成的对抗样本的攻击，甚至容易受到为他人生成的对抗样本的攻击。这种现象给各种依赖图像分类器的黑盒系统带来了潜在的安全风险。这种对抗样本可迁移性的原因尚未完全明了，许多研究提出了训练方法以获得低可迁移性的分类器。在本研究中，我们从一个新颖的视角通过调查网络架构对可迁移性的贡献来解决此问题。具体而言，我们提出了一个架构搜索框架，该框架采用神经演化（neuroevolution）来演化网络架构，并使用梯度错位损失鼓励网络在训练后收敛到不相似的函数。我们的实验表明，所提出的框架成功发现了能从包括 ResNet 和 VGG 在内的四个标准网络降低可迁移性的架构，同时在未扰动图像上保持良好准确率。此外，用梯度错位训练的演化网络相比用梯度错位训练的标准网络表现出显著更低的可迁移性，这表明网络架构在降低可迁移性方面起着重要作用。本研究证明设计或探索合适的网络架构是解决可迁移性问题并训练对抗鲁棒图像分类器的一个有前景的途径。
引用
@article{arxiv.2109.05919,
title = {Evolving Architectures with Gradient Misalignment toward Low Adversarial Transferability},
author = {Kevin Richard G. Operiano and Wanchalerm Pora and Hitoshi Iba and Hiroshi Kera},
journal= {arXiv preprint arXiv:2109.05919},
year = {2021}
}
备注
23 pages, 4 figures