通用对抗攻击与稀疏表示之间的关系
计算机视觉与模式识别
2023-11-15 v1 人工智能
摘要
神经网络（主要在计算机视觉任务中）的显著成功，正日益被其对图像输入中微小、几乎难以察觉的对抗扰动的敏感性所笼罩。在本工作中，我们旨在透过稀疏性框架解释这一脆弱性。我们展示了对抗攻击与稀疏表示之间的联系，重点解释神经网络中对抗样本的通用性与可迁移性。为此，我们表明稀疏编码算法，其中包括基于神经网络的学习迭代收缩阈值算法（LISTA），也遭受此种敏感性，并且对神经网络的常见攻击可表达为对输入图像稀疏表示的攻击。我们所观察到的现象在网络对稀疏表示与字典未知时也成立，因而可为对抗攻击的通用性与可迁移性提供可能的解释。代码见 https://github.com/danawr/adversarial_attacks_and_sparse_representations。
引用
@article{arxiv.2311.08265,
title = {On The Relationship Between Universal Adversarial Attacks And Sparse Representations},
author = {Dana Weitzner and Raja Giryes},
journal= {arXiv preprint arXiv:2311.08265},
year = {2023}
}