基于时-尺度表示的对抗攻击
计算机视觉与模式识别
2021-07-28 v1 人工智能
密码学与安全
摘要
我们提出了一种用于实时黑盒通用攻击的新型框架，其扰乱深度学习模型早期卷积层的激活。我们的假设是，在小波空间中产生的扰动比在时域中进行的扰动更能有效地扰乱早期卷积层。对抗攻击的主要挑战在于保留低频图像内容，同时以最小程度改变最具意义的高频内容。为此，我们使用时-尺度（小波）表示作为对偶空间，分三步构建优化问题。首先，我们通过小波系数将原始图像投影至低频与高频的正交子空间。其次，我们利用生成器网络扰动高频投影的小波系数。第三，我们通过将低频的原始系数与高频子空间中被扰动的系数投影回去，生成新的对抗图像。我们提供了保证时域与时-尺度域表示间对偶映射的理论框架。我们将结果与来自基于生成与基于梯度的模型的先进黑盒攻击进行比较。我们还验证了针对多种防御方法（如 JPEG 压缩、Guided Denoiser 和 Comdefend）的有效性。我们的结果表明，基于小波的扰动始终优于基于时间的攻击，从而为深度学习模型的脆弱性提供了新的见解，并可能通过利用时-尺度表示催生鲁棒架构或新的防御与攻击机制。
引用
@article{arxiv.2107.12473,
title = {Adversarial Attacks with Time-Scale Representations},
author = {Alberto Santamaria-Pang and Jianwei Qiu and Aritra Chowdhury and James Kubricht and Peter Tu and Iyer Naresh and Nurali Virani},
journal= {arXiv preprint arXiv:2107.12473},
year = {2021}
}