面向黑盒音频系统的定向对抗样本
机器学习
2019-08-21 v2 密码学与安全
声音
音频与语音处理
机器学习
摘要
深度循环网络在音频转写中的应用使得自动语音识别（ASR）系统取得了令人印象深刻的进展。许多人已证明，微小的对抗扰动可以欺骗深度神经网络，使其以高置信度错误地预测指定目标。当前关于欺骗 ASR 系统的工作集中于白盒攻击，即模型结构与参数均已知。本文中，我们采用黑盒方法进行对抗生成，结合遗传算法与梯度估计两种途径来解决该任务。我们在 3000 代后实现了 89.25% 的定向攻击相似度，同时保持 94.6% 的音频文件相似度。
引用
@article{arxiv.1805.07820,
title = {Targeted Adversarial Examples for Black Box Audio Systems},
author = {Rohan Taori and Amog Kamsetty and Brenton Chu and Nikita Vemuri},
journal= {arXiv preprint arXiv:1805.07820},
year = {2019}
}
备注
IEEE Deep Learning and Security Workshop 2019