防御针对声纹认证的数据投毒攻击
密码学与安全
2023-07-11 v2 人工智能
机器学习
声音
音频与语音处理
摘要
随着深度学习的进展，说话人验证已取得极高准确率，并作为生物特征认证选项在我们日常生活的诸多场景（尤其是不断增长的网络服务市场）中日益普及。相比传统密码，“声纹密码”更为便捷，使人免于记忆不同密码。然而，新的机器学习攻击正使这些语音认证系统面临风险。若无强健的安全保障，攻击者可通过欺骗基于深度神经网络（DNN）的语音识别模型来访问合法用户的网络账户。本文中，我们演示了一种易于实现、且几乎无法被现有防御机制捕获的针对语音认证系统的数据投毒攻击。为此，我们提出一种更鲁棒的防御方法，称为 Guardian，这是一个基于卷积神经网络的判别器。Guardian 判别器集成了一系列新技术，包括偏置削减、输入增强与集成学习。我们的方法能区分约 95% 的受攻击账户与正常账户，远优于现有仅 60% 准确率的方法。
引用
@article{arxiv.2209.04547,
title = {Defend Data Poisoning Attacks on Voice Authentication},
author = {Ke Li and Cameron Baird and Dan Lin},
journal= {arXiv preprint arXiv:2209.04547},
year = {2023}
}