面向物理攻击的鲁棒音频对抗样本
机器学习
2019-08-20 v4 密码学与安全
声音
音频与语音处理
机器学习
摘要
我们提出一种生成音频对抗样本的方法，可在物理世界中攻击 SOTA 语音识别模型。先前工作假设生成的对抗样本直接输入识别模型，因播放环境的混响与噪声而无法实现此类物理攻击。相反，我们的方法通过模拟物理世界中播放或录制引起的变换，并将这些变换纳入生成过程，获得鲁棒对抗样本。评估与听感实验表明，我们的对抗样本能够在不被人类察觉的情况下实现攻击。该结果表明，由所提方法生成的音频对抗样本可能成为真实威胁。
引用
@article{arxiv.1810.11793,
title = {Robust Audio Adversarial Example for a Physical Attack},
author = {Hiromu Yakura and Jun Sakuma},
journal= {arXiv preprint arXiv:1810.11793},
year = {2019}
}
备注
Accepted to IJCAI 2019