利用对抗样本欺骗端到端说话人确认系统
机器学习
2018-02-19 v2 计算与语言
摘要
自动说话人确认系统正日益用作验证客户身份的主要手段。近来，有人提出使用端到端深度神经模型来训练说话人确认系统。本文中，我们表明此类系统易受对抗样本攻击。对抗样本通过对原始说话人样本添加一种特殊噪声而生成，使得人类听者几乎无法将其与原始样本区分开来。然而，听起来像是说话人 A 的所生成波形，可被用来冒充这些波形由说话人 B 说出，从而欺骗此类系统。我们针对一个在 YOHO 或 NTIMIT 上训练的端到端深度网络给出了白盒攻击。我们还给出了两种黑盒攻击：一种是对抗样本由在 YOHO 上训练的系统生成，但攻击对象是在 NTIMIT 上训练的系统；另一种是对抗样本由在梅尔谱特征集上训练的系统生成，但攻击对象是在 MFCC 上训练的系统。结果表明，被攻击系统的准确率下降，且假阳性率急剧上升。
引用
@article{arxiv.1801.03339,
title = {Fooling End-to-end Speaker Verification by Adversarial Examples},
author = {Felix Kreuk and Yossi Adi and Moustapha Cisse and Joseph Keshet},
journal= {arXiv preprint arXiv:1801.03339},
year = {2018}
}