通过异常模式检测识别音频对抗样本
机器学习
2020-07-28 v2 密码学与安全
声音
音频与语音处理
机器学习
摘要
基于深度神经网络的音频处理模型即便在对抗音频波形与良性样本相似度达99.9%时，也易受对抗攻击。鉴于基于DNN的音频识别系统应用广泛，检测对抗样本的存在具有高度实际意义。通过在这些模型激活空间中应用异常模式检测技术，我们表明近期及当前最先进的音频处理系统对抗攻击中有2种会系统性地导致某些节点子集出现高于预期的激活，且我们能以高达0.98的AUC检测这些攻击，同时在良性样本上性能无退化。
引用
@article{arxiv.2002.05463,
title = {Identifying Audio Adversarial Examples via Anomalous Pattern Detection},
author = {Victor Akinwande and Celia Cintas and Skyler Speakman and Srihari Sridharan},
journal= {arXiv preprint arXiv:2002.05463},
year = {2020}
}