ADAGIO：用于音频对抗攻击与防御的交互式实验平台
机器学习
2018-05-31 v1 密码学与安全
声音
音频与语音处理
摘要
对抗机器学习研究近期表明，通过对音频样本引入听觉上不可感知的扰动，可以混淆自动语音识别（ASR）模型。为帮助研究者和从业者更好地理解此类攻击的影响，并为其提供工具以更轻松地评估并构建针对其模型的强防御，我们提出 ADAGIO——首个允许在 ASR 模型上实时、以视觉与听觉方式进行对抗攻击与防御交互式实验的工具。ADAGIO 将 AMR 与 MP3 音频压缩技术作为防御手段，用户可交互地应用于受攻击的音频样本。我们表明，这些基于心理声学原理的技术能有效消除定向攻击，将攻击成功率从 92.5% 降至 0%。我们将演示 ADAGIO 并邀请听众在 Mozilla Common Voice 数据集上试用。
引用
@article{arxiv.1805.11852,
title = {ADAGIO: Interactive Experimentation with Adversarial Attack and Defense for Audio},
author = {Nilaksh Das and Madhuri Shanbhogue and Shang-Tse Chen and Li Chen and Michael E. Kounavis and Duen Horng Chau},
journal= {arXiv preprint arXiv:1805.11852},
year = {2018}
}
备注
Demo paper; for supplementary video, see https://youtu.be/0W2BKMwSfVQ