通用对抗音频扰动
机器学习
2020-11-18 v5 声音
音频与语音处理
机器学习
摘要
我们证明了通用对抗扰动的存在性,其可欺骗一系列音频分类架构,适用于目标与非目标攻击场景。我们提出两种寻找此类扰动的方法。第一种基于计算机视觉中众所周知的迭代贪婪方法:它聚合对输入的小扰动以将其推至决策边界。第二种方法,作为本工作的主要贡献,是一种新颖的惩罚项公式,可找到目标与非目标通用对抗扰动。不同于贪婪方法,惩罚方法在样本批次上最小化适当的目标函数。因此,当训练样本数量有限时,它产生更成功的攻击。此外,我们提供证明,所提惩罚方法在理论上收敛到对应于通用对抗扰动的解。我们还证明,当攻击者仅能获取目标数据集中的一个样本时,使用惩罚方法也有可能提供成功攻击。在攻击各种1D CNN架构上的实验结果表明,使用所提惩罚方法,目标与非目标攻击的成功率分别高于85.0%和83.1%。
引用
@article{arxiv.1908.03173,
title = {Universal Adversarial Audio Perturbations},
author = {Sajjad Abdoli and Luiz G. Hafemann and Jerome Rony and Ismail Ben Ayed and Patrick Cardinal and Alessandro L. Koerich},
journal= {arXiv preprint arXiv:1908.03173},
year = {2020}
}