利用时间依赖性刻画音频对抗样本
机器学习
2019-06-06 v2 人工智能
密码学与安全
声音
音频与语音处理
机器学习
摘要
近期研究强调了对抗样本作为对不同神经网络模型及许多下游应用的普遍威胁。尽管如此，由于独特的数据特性激发了独特且强大的学习原理，本文旨在探索其缓解对抗输入的潜力。具体而言，我们的结果揭示了利用音频数据中的时间依赖性来获得对抗对抗样本的判别力的重要性。在自动语音识别（ASR）任务及三种近期音频对抗攻击上测试，我们发现（i）由图像对抗防御发展出的输入变换提供的鲁棒性提升有限，且对高级攻击较为脆弱；（ii）时间依赖性可被利用以获得对抗音频对抗样本的判别力，并且对我们实验中考虑的自适应攻击具有抵抗性。我们的结果不仅展示了提升 ASR 系统鲁棒性的有前景的手段，也提供了利用领域特定数据特性来缓解对抗样本负面效应的新颖见解。
引用
@article{arxiv.1809.10875,
title = {Characterizing Audio Adversarial Examples Using Temporal Dependency},
author = {Zhuolin Yang and Bo Li and Pin-Yu Chen and Dawn Song},
journal= {arXiv preprint arXiv:1809.10875},
year = {2019}
}