从网络层次视角探索可迁移且鲁棒的对抗扰动生成
计算机视觉与模式识别
2021-08-17 v1
摘要
对抗样本的可迁移性与鲁棒性是黑盒对抗攻击中两个实用且重要的性质。本文从网络层次视角探索提升二者的有效机制，其中典型网络可层次化地划分为输出阶段、中间阶段与输入阶段。由于源模型的过度专门化，我们难以在输出阶段提升对抗扰动的可迁移性与鲁棒性。因此，本文聚焦于中间与输入阶段，并提出一种可迁移且鲁棒的对抗扰动生成（TRAP）方法。具体而言，我们提出动态引导机制，在中间阶段持续计算用于扰动生成的准确方向引导。在输入阶段，不同于现有方法采用的单一形式变换增强，我们利用多形式仿射变换增强进一步丰富输入多样性，并提升对抗扰动的可迁移性与鲁棒性。大量实验表明，我们的 TRAP 实现了令人印象深刻的可迁移性以及对特定干扰的高鲁棒性。
引用
@article{arxiv.2108.07033,
title = {Exploring Transferable and Robust Adversarial Perturbation Generation from the Perspective of Network Hierarchy},
author = {Ruikui Wang and Yuanfang Guo and Ruijie Yang and Yunhong Wang},
journal= {arXiv preprint arXiv:2108.07033},
year = {2021}
}