自动说话人验证中对抗样本检测的鲁棒性研究
音频与语音处理
2020-08-10 v2 机器学习
声音
摘要
近年来，针对自动说话人验证（ASV）系统的对抗攻击因其对 ASV 系统构成严重威胁而受到广泛关注。然而，防御此类攻击的方法十分有限。现有方法主要集中于通过对抗数据增强来重新训练 ASV 系统。此外，针对不同的攻击设置，对策的鲁棒性尚未得到充分研究。与先前方法正交，本工作提出使用一个独立的检测网络来防御 ASV 系统遭受对抗攻击，而非将对抗数据增强至 ASV 训练中。我们引入了一个类 VGG 的二分类检测器，并证明其在检测对抗样本上有效。为在可能存在未知攻击设置的现实防御场景中考察检测器的鲁棒性，我们分析了各类未知攻击设置的影响，观察到该检测器对未知替代 ASV 系统具有鲁棒性（最坏情况下 EER_{det} 退化 6.27%），但对未知扰动方法的鲁棒性较弱（最坏情况下 EER_{det} 退化 50.37%）。对未知扰动方法鲁棒性较弱，为开发更强的对策指明了方向。
引用
@article{arxiv.2006.06186,
title = {Investigating Robustness of Adversarial Samples Detection for Automatic Speaker Verification},
author = {Xu Li and Na Li and Jinghua Zhong and Xixin Wu and Xunying Liu and Dan Su and Dong Yu and Helen Meng},
journal= {arXiv preprint arXiv:2006.06186},
year = {2020}
}
备注
accepted by Interspeech2020