针对 AED 系统的音频攻击与防御——一项实用研究
声音
2021-11-11 v4 机器学习
音频与语音处理
摘要
在本文中，我们基于对抗样本对深度学习赋能的 AED（音频事件检测）系统进行了规避攻击评估。我们测试了多个安全关键的 AED 任务（实现为 CNN 分类器）以及 Google 制造的现有第三方 Nest 设备的鲁棒性，这些设备运行其自身的黑盒深度学习模型。我们的对抗样本使用由白噪声和背景噪声构成的音频扰动。此类扰动易于创建、实施和复现，并且可被大量潜在攻击者（甚至非技术熟练者）所利用。我们表明，攻击者可以聚焦于音频对抗输入以导致 AED 系统误分类，即使我们使用给定类型噪声扰动的较小强度，也能实现高成功率。例如，在枪声类别上，当采用低至 0.05 的白噪声强度时，我们实现了近 100% 的成功率。类似于先前聚焦于图像域和语音识别域对抗样本的工作，我们随后寻求通过对策提升分类器的鲁棒性。我们采用对抗训练和音频去噪。我们表明，这些对策在应用于音频输入时可以成功，无论是单独还是组合使用，在分类器遭受攻击时使其性能提升近百分之五十。
引用
@article{arxiv.2106.07428,
title = {Audio Attacks and Defenses against AED Systems -- A Practical Study},
author = {Rodrigo dos Santos and Shirin Nilizadeh},
journal= {arXiv preprint arXiv:2106.07428},
year = {2021}
}