用于自动语音识别的不可感知、鲁棒且定向的对抗样本
音频与语音处理
2019-06-10 v2 机器学习
声音
机器学习
摘要
对抗样本是由 adversary 设计的、用于使机器学习模型产生错误输入的输入。迄今为止，对抗样本在图像领域研究最为广泛。在该领域中，可通过不可感知地修改图像来造成误分类，并且在物理世界中具有实用性。相比之下，当前应用于语音识别系统的定向对抗样本不具备这两种性质：人类可轻易识别对抗扰动，且它们在通过空气播放时无效。本文在这两个方面均取得进展。首先，我们利用听觉掩蔽的心理声学原理，开发出有效不可感知的音频对抗样本（经人类研究验证），同时在任意整句目标上保持100%的定向成功率。接着，我们通过构造即便在施加真实模拟环境失真后仍保持有效的扰动，在向物理世界空气传播音频对抗样本方向取得进展。
引用
@article{arxiv.1903.10346,
title = {Imperceptible, Robust, and Targeted Adversarial Examples for Automatic Speech Recognition},
author = {Yao Qin and Nicholas Carlini and Ian Goodfellow and Garrison Cottrell and Colin Raffel},
journal= {arXiv preprint arXiv:1903.10346},
year = {2019}
}
备注
International Conference on Machine Learning (ICML), 2019