基于自监督学习防御黑盒攻击对反欺骗模型的威胁
音频与语音处理
2020-12-08 v3 机器学习
摘要
用于自动说话人验证（ASV）的高性能反欺骗模型，已被广泛用于通过识别和过滤由文本转语音、语音转换、音频重放等故意生成的欺骗音频来保护 ASV。然而，研究表明高性能反欺骗模型易受对抗攻击。对抗攻击与原始数据难以区分但导致错误预测，对反欺骗模型十分危险，毫无疑问我们应以任何代价检测它们。为探究此问题，我们提出采用基于自监督学习的模型 Mockingjay，在黑盒场景下保护反欺骗模型免受对抗攻击。自监督学习模型能有效提升下游任务性能，如音素分类或 ASR。然而，其在防御对抗攻击方面的效果尚未被探索。本工作中，我们探索自监督学习的高层表示的鲁棒性，将其用于防御对抗攻击。提出逐层噪声信号比（LNSR）来量化并度量深度模型对抗对抗噪声的有效性。在 ASVspoof 2019 数据集上的实验结果表明，Mockingjay 提取的高层表示能阻止对抗样本的迁移性，并成功抵御黑盒攻击。
引用
@article{arxiv.2006.03214,
title = {Defense for Black-box Attacks on Anti-spoofing Models by Self-Supervised Learning},
author = {Haibin Wu and Andy T. Liu and Hung-yi Lee},
journal= {arXiv preprint arXiv:2006.03214},
year = {2020}
}