利用生成模型实现快速且通用的音频对抗攻击
音频与语音处理
2021-02-09 v2 机器学习
声音
摘要
近来，基于 DNN 的音频系统对对抗攻击的脆弱性获得了越来越多的关注。然而，现有的音频对抗攻击允许对手掌握用户的完整音频输入，并赋予充足的时预算来生成对抗扰动。这些理想化假设使得现有音频对抗攻击在大多数实际场景中几乎无法及时发起（例如，在用户流式输入同时播放不易察觉的对抗扰动）。为克服这些限制，本文提出快速音频对抗扰动生成器（FAPG），其使用生成模型以单次前向传播为音频输入生成对抗扰动，从而大幅提升扰动生成速度。在 FAPG 基础上，我们进一步提出通用音频对抗扰动生成器（UAPG），一种生成通用对抗扰动的方案，该扰动可施加于任意良性音频输入以引发误分类。大量实验表明，我们提出的 FAPG 相比最先进的音频对抗攻击方法可实现高达 167 倍的加速。此外，我们提出的 UAPG 能生成通用对抗扰动，其攻击性能显著优于最先进的方案。
引用
@article{arxiv.2004.12261,
title = {Enabling Fast and Universal Audio Adversarial Attack Using Generative Model},
author = {Yi Xie and Zhuohang Li and Cong Shi and Jian Liu and Yingying Chen and Bo Yuan},
journal= {arXiv preprint arXiv:2004.12261},
year = {2021}
}
备注
Publish on AAAI21