迈向频率驱动的对抗样本新视角
机器学习
2024-04-17 v1 人工智能
摘要
增强我们对对抗样本的理解对于机器学习模型在现实场景中的安全应用至关重要。分析对抗样本的一种流行方法是基于频率的方法。然而，现有研究表明，利用低频或高频信息设计的攻击可以增强攻击性能，导致对抗扰动与不同频率分量之间的关系不明确。在本文中，我们通过探索对抗扰动在频域中的特性来揭示这种关系。我们采用小波包分解对对抗样本进行详细的频率分析，并在不同频带上进行统计检验。有趣的是，我们的发现表明，显著的对抗扰动存在于低频带的高频分量中。基于这一见解，我们提出了一种基于组合不同频带的黑盒对抗攻击算法。在多个数据集和模型上进行的实验表明，组合低频带和低频带的高频分量可以显著提高攻击效率。平均攻击成功率可达99%，超过了使用单一频段的攻击。此外，我们引入了归一化扰动可见性指数，以解决L2范数在评估连续和离散扰动时的局限性。
引用
@article{arxiv.2404.10202,
title = {Towards a Novel Perspective on Adversarial Examples Driven by Frequency},
author = {Zhun Zhang and Yi Zeng and Qihe Liu and Shijie Zhou},
journal= {arXiv preprint arXiv:2404.10202},
year = {2024}
}