解析针对说话人识别的对抗样本——攻击检测与受害模型分类技术
声音
2024-03-01 v1 密码学与安全
机器学习
音频与语音处理
摘要
对抗样本已被证明对说话人识别系统构成威胁，对此已提出了几种对策。在本文中，我们提出了一种检测对抗样本存在的方法，即一个区分良性样本和对抗样本的二元分类器。我们在先前关于攻击类型分类的工作基础上，通过探索新架构进行了扩展。此外，我们引入了一种识别执行对抗攻击的受害模型的方法。为此，我们生成了一个包含针对各种受害模型的多种攻击的新数据集。我们在攻击检测方面达到了 0.982 的 AUC，且在面对未知攻击时性能下降不超过 0.03。使用我们的 LightResNet34 架构，我们的攻击分类准确率（排除良性样本）在八种攻击类型中达到 86.48%，而我们的受害模型分类准确率在四种受害模型中达到 72.28%。
引用
@article{arxiv.2402.19355,
title = {Unraveling Adversarial Examples against Speaker Identification -- Techniques for Attack Detection and Victim Model Classification},
author = {Sonal Joshi and Thomas Thebaud and Jesús Villalba and Najim Dehak},
journal= {arXiv preprint arXiv:2402.19355},
year = {2024}
}