一种受多版本编程启发的音频对抗样本检测方法
声音
2019-12-05 v2 密码学与安全
音频与语音处理
摘要
对抗样本（AEs）是通过向输入添加人类不可感知的扰动来构造的，使得基于机器学习的分类器对其产生错误标记。它们已成为机器学习可信度的严重威胁。尽管图像领域的 AEs 已被充分研究，但音频 AEs 的研究相对较少。最近，多种生成音频 AEs 的技术被提出，这使得针对它们的对策成为一项紧迫任务。我们的实验表明，给定一个 AE，由于使用不同的架构、参数和训练数据集，不同自动语音识别（ASR）系统的转录结果差异显著。受多版本编程启发，我们提出了一种新颖的音频 AE 检测方法，该方法利用多个现成的 ASR 系统来确定音频输入是否为 AE。评估表明，该检测的准确率超过 98.6%。
引用
@article{arxiv.1812.10199,
title = {A Multiversion Programming Inspired Approach to Detecting Audio Adversarial Examples},
author = {Qiang Zeng and Jianhai Su and Chenglong Fu and Golam Kayas and Lannan Luo},
journal= {arXiv preprint arXiv:1812.10199},
year = {2019}
}
备注
8 pages, 4 figures, AICS 2019, The AAAI-19 Workshop on Artificial Intelligence for Cyber Security (AICS), 2019